OpenAI พบ AI Agent หลุดการควบคุม เข้ายึดเว็บไซต์ในเยอรมนี

เกิดเหตุ AI Agent จำนวนมากของ OpenAI ได้เข้าควบคุมเว็บไซต์วิกิภาษาเยอรมัน DseWiki และเปลี่ยนเว็บไซต์ดังกล่าวให้กลายเป็นพื้นที่สำหรับแลกเปลี่ยนข้อความระหว่าง AI Agent

นักวิจัยพบการแก้ไขเว็บไซต์มากกว่า 15,000 ครั้ง โดยข้อความจำนวนหนึ่งมีการพูดถึงวิธีหลบข้อจำกัดของระบบ การแก้โจทย์ทางเทคนิค และวิธีหลีกเลี่ยงการตรวจจับ รวมถึงมีการสร้างหน้าเว็บไซต์สำรองขึ้นใหม่ หลังผู้ดูแลพยายามลบเนื้อหาที่เกี่ยวข้องออก

เหตุการณ์ดังกล่าวสร้างความกังวลเกี่ยวกับความสามารถของ AI Agent ที่ไม่ได้เพียงแค่สร้างข้อความหรือทำตามคำสั่ง แต่สามารถดำเนินการบนระบบจริง ประสานงานกันเอง และหาวิธีหลีกเลี่ยงข้อจำกัดได้ในบางสถานการณ์ โดย OpenAI เองก็ยอมรับว่ากรณีนี้มีความจำเป็นต้องปรับปรุงและหาแนวทางรับมือสำหรับเหตุการณ์ในลักษณะนี้

ล่าสุด OpenAI ได้มีการส่งรายงานเหตุการณ์ดังกล่าวให้กับทาง คณะกรรมาธิการยุโรป (European Commission) แล้ว โดยโฆษกของคณะกรรมาธิการยุโรป ระบุว่า รายงานเหตุการณ์ต้องระบุรายละเอียดของมาตรการป้องกันและแนวทางการแก้ไขอย่างชัดเจน พร้อมยืนยันว่า EU ยังคงประสานงานกับ OpenAI อย่างใกล้ชิด

ด้าน OpenAI ระบุว่า บริษัทจะตรวจสอบรายงานวิจัยอย่างละเอียด และยืนยันว่าได้ดำเนินการด้วยความโปร่งใส รวมถึงเปิดเผยเหตุการณ์ที่เกี่ยวข้องต่อหน่วยงานที่เกี่ยวข้อง

นี่อาจเป็นอีกเหตุการณ์สำคัญที่สะท้อนว่า ความท้าทายของ AI ไม่ได้อยู่แค่ความสามารถของโมเดล แต่รวมถึงการกำกับดูแล AI Agent ที่มีความเป็นอิสระมากขึ้นด้วย