OpenAI เตือนองค์กรกว่า 100 แห่ง เร่งตรวจสอบ AI Agents หลังพบว่า AI ของบริษัทมีพฤติกรรมแปลกๆ

OpenAI ออกแถลงการณ์แจ้งเตือนองค์กรต่างๆ กว่า 100 แห่ง หลังตรวจสอบว่า AI Agents ของบริษัท มีพฤติกรรมที่ออกนอกเหนือขอบเขตของการควบคุม และมีการเชื่อมต่อไปยังเว็บไซต์หรือระบบภายนอก 

ซึ่งเหตุการณ์นี้ไม่ได้รุนแรงเท่าเมื่อหลายเดือนก่อนที่ OpenAI ได้ทำ  AI Agents หลุดเข้าไปแฮกระบบแพลตฟอร์ม Hugging Face ขโมยข้อมูลประจำตัว อัปโหลดไฟล์อันตราย และเข้าถึงโครงสร้างพื้นฐานของระบบการผลิตได้

โดยทาง OpenAI ยอมรับว่าเหตุการณ์บางเคสโมเดลอาจมีการเข้าถึงแบบไม่ได้ตั้งใจ ซึ่งทางทีมงานกำลังเร่งค้นหาและตรวจสอบการทำงานขนาดมหาศาลถึงระดับ 50 เพตาไบต์ เพื่อประเมินความเสียหายทั้งหมด และบริษัทจะยกระดับมาตรการที่รัดกุมมากขึ้น เพื่อป้องกันไม่ให้เกิดปัญหาลักษณะนี้ซ้ำ

ที่มา : Reuters