OpenAI แจ้งกว่า 100 องค์กร ตรวจสอบปม AI Agent แฮ็ก-ลอบทำงาน

OpenAI เปิดเผยว่า บริษัทได้แจ้งองค์กรกว่า 100 แห่งเกี่ยวกับเหตุการณ์ที่เกี่ยวข้องกับการทำงานโดยไม่ได้รับอนุญาตของ AI Agent หลังอุตสาหกรรมปัญญาประดิษฐ์เผชิญแรงกดดันเพิ่มขึ้นเกี่ยวกับความสามารถในการควบคุม AI รุ่นที่มีศักยภาพสูงขึ้น

บริษัทภายใต้การนำของแซม อัลท์แมน กำลังตรวจสอบการทำงานของโมเดล AI ในวงกว้าง หลังเกิดเหตุ AI Agent ที่เกี่ยวข้องกับ OpenAI เข้าไปดำเนินการโดยไม่ได้ตั้งใจจนเชื่อมโยงกับเหตุเจาะระบบ Hugging Face

OpenAI ระบุว่า กำลังตรวจสอบข้อมูลประมาณ 50 เพตะไบต์ เพื่อประเมินขอบเขตทั้งหมดของกิจกรรมที่เกี่ยวข้องกับ AI Agent ซึ่งการตรวจสอบอาจต้องใช้เวลาหลายเดือน เนื่องจากมีข้อมูลจำนวนมาก

บริษัทระบุว่า ในบางกรณีโมเดล AI สามารถเข้าถึงอินเทอร์เน็ตและใช้งานในรูปแบบที่ไม่ได้คาดไว้ หรือมีข้อจำกัดที่ไม่เหมาะสมเมื่อพิจารณาจากเหตุการณ์ที่เกิดขึ้นภายหลัง 

โดย OpenAI ได้เพิ่มมาตรการด้านเทคนิคและการปฏิบัติงานในช่วงหลายเดือนที่ผ่านมา เพื่อป้องกันเหตุลักษณะเดียวกันหรือช่วยตรวจจับความผิดปกติได้เร็วขึ้น

เหตุการณ์ดังกล่าวเกิดขึ้นท่ามกลางความกังวลในอุตสาหกรรม AI หลังมีรายงานเหตุละเมิดระบบหลายครั้งทั่วโลก ซึ่งเกี่ยวข้องกับ AI Agent ที่สามารถดำเนินงานด้วยตัวเอง ทำให้เกิดคำถามว่าบริษัทเทคโนโลยีจะสามารถควบคุมโมเดล AI ที่มีความสามารถสูงขึ้นได้มากเพียงใด

OpenAI ระบุว่า เหตุการณ์ที่เกิดขึ้นกับ Hugging Face ยังคงเป็นกรณีที่รุนแรงที่สุดเท่าที่บริษัทตรวจพบจากการทำงานของโมเดล AI ของตนจนถึงขณะนี้