“โอเพนเอไอ” ตรวจพบเอไอมีพฤติกรรมหลอกลวง-ตุกติกเพิ่มเติม หนุนชะลอการพัฒนา หวั่นหลุดการควบคุม | เดลินิวส์

สำนักข่าวต่างประเทศรายงานเมื่อวันที่ 17 กันยายนว่า บริษัทเทคโนโลยีประดิษฐ์ชื่อดัง “โอเพนเอไอ” เพิ่งออกแถลงการณ์ยอมรับการตรวจพบพฤติกรรมไม่พึงประสงค์ของโมเดลเอไอเพิ่มขึ้นในระหว่างกระบวนการฝึกฝน ซึ่งรวมถึงการแอบทำกิจกรรมที่ไม่ได้รับอนุญาตและการหลอกลวงระบบ พร้อมประกาศปรับเปลี่ยนกระบวนการรายงานพฤติกรรมอันน่ากังวลเหล่านี้ให้ถี่ขึ้นเพื่อสร้างมาตรฐานใหม่ในอุตสาหกรรม 

การประกาศครั้งนี้เกิดขึ้นในขณะที่กระแสความกังวลจากกลุ่มผู้นำเทคโนโลยีพร้อมทั้งแนวคิดที่ชี้ว่า จำเป็นต้องชะลอการพัฒนาเอไอให้ช้าลง เพื่อไม่ให้เทคโนโลยีปรับตัวล้ำหน้าจนมนุษย์ไม่สามารถควบคุมได้

ในบล็อกโพสต์เมื่อวันพุธที่ผ่านมา โอเพนเอไอระบุว่า บริษัทได้สังเกตพบพฤติกรรมที่หลุดจากกรอบคำสั่งหรือความสอดคล้องกับเจตนารมย์ของมนุษย์รวม 6 กรณีในช่วง 6 เดือนที่ผ่านมา โดยทั้งหมดเป็นโมเดลเอไอในการวิจัยภายในที่ยังไม่ได้เปิดตัวสู่สาธารณะ 

ตัวอย่างพฤติกรรมที่พบ ได้แก่ โมเดลทดลองบางตัวแอบแทรกคำสั่งที่คล้ายการทำ “เจลเบรก” (ดัดแปลงระบบหรือคำสั่งเพื่อปลดล็อกข้อจำกัด) ในบทสรุปข้อมูลเพื่อปลดล็อกตัวเองจากข้อจำกัดเดิม ส่วนโมเดลรุ่น 5.6 Sol มีการสร้างข้อมูลเท็จขึ้นมาเองเพื่อปกปิดความผิดพลาดของระบบ ไม่ให้ผู้ใช้รับรู้ 

นอกจากนี้ ยังพบเอไอบางตัวแอบอัปโหลดไฟล์ขึ้นอินเทอร์เน็ตและแชร์ไฟล์สู่สาธารณะเพื่อทำงานร่วมกัน ทั้งที่ได้รับคำสั่งให้ใช้เฉพาะไฟล์ภายในเครื่องเท่านั้น หรือแม้กระทั่งการแอบใช้คลังเก็บซอฟต์แวร์ภายในเป็นกระดานส่งข้อความหากันเองโดยไม่ได้รับอนุญาต

เมื่อสัปดาห์ที่แล้ว ดาริโอ อาโมเดอี  ซีอีโอของแอนโทรปิก เพิ่งออกมาตอกย้ำว่า จำเป็นต้องชะลอความเร็วที่ใช้ในการปรับปรุงความสามารถของโมเดลเอไอลง ซึ่งแนวคิดนี้ได้รับการสนับสนุนอย่างเป็นทางการจากทั้ง แซม อัลต์แมน ซีอีโอของโอเพนเอไอ และ อีลอน มัสก์ ซีอีโอของสเปซเอ็กซ์

ขณะเดียวกัน บุคลากรระดับปฏิบัติต่างก็เริ่มแสดงความกังวลอย่างหนัก เช่น เจคอบ ค็อกซอน อดีตนักวิจัยของแอนโทรปิกที่ตัดสินใจยื่นใบลาออกจากบริษัท พร้อมโพสต์ข้อความเตือนวงการลงบนเอ็กซ์ว่า บริษัทเทคโนโลยียักษ์ใหญ่กำลัง “เร่งรีบแข่งกันสร้างเอไอที่สามารถสร้างและแก้ไขตัวเองได้ ซึ่งนั่นไม่ต่างอะไรจากการเอาชีวิตของพวกเราไปเดิมพัน” สะท้อนให้เห็นว่าทุกภาคส่วนกำลังเรียกร้องเวลาเพิ่มเพื่อกำกับดูแล ทดสอบ และวิจัยด้านความปลอดภัย ก่อนที่เอไอจะก้าวข้ามขอบเขตและอาจเป็นภัยต่อมนุษย์

เรียบเรียงโดย : ทีมข่าวต่างประเทศ

ที่มา : edition.cnn

เครดิตภาพ : REUTERS