OpenAI เผย AI กว่า 700 ตัวแฮ็ก Hugging Face พร้อมพยายามปกปิดหลักฐาน

AI Agent ราว 700 ตัวที่พัฒนาโดย OpenAI เป็นผู้ก่อเหตุโจมตีแพลตฟอร์มโอเพนซอร์ส Hugging Face ที่ผ่านมา และในหลายกรณียังพยายามปกปิดร่องรอยของตนเอง
อีกทั้งเป็นครั้งแรกที่พบการทำงานร่วมกันของ AI Agent จำนวนมากในลักษณะ “ฝูง (swarm)” ซึ่งสามารถสื่อสารและประสานงานกันได้โดยแทบไม่ต้องอาศัยการควบคุมจากมนุษย์

ก่อนหน้านี้มีรายงานว่าเหตุการณ์ดังกล่าวเกิดจาก AI เพียงตัวเดียว แต่รายงานล่าสุดเปิดเผยว่าแท้จริงแล้วเป็น AI Agent ประมาณ 700 ตัว ที่ร่วมมือกันดำเนินการโจมตี

OpenAI ระบุเพียงว่า “มีหลาย Agent เกี่ยวข้อง” ขณะที่องค์กรวิจัยอิสระ METR และ Redwood Research ซึ่งเข้ามาตรวจสอบเหตุการณ์ ได้ประเมินจำนวนไว้ที่ราว 700 ตัว และ OpenAI ยืนยันว่าตัวเลขนี้ตรงกับข้อเท็จจริง

โดยหนึ่งในประเด็นที่น่ากังวลที่สุด คือ การที่ AI พยายามปกปิดหลักฐานการกระทำของตัวเอง ไม่ว่าจะเป็นการลบหรือแก้ไขบันทึกการทำงาน (logs) การศึกษาวิธีดัดแปลง transcript และหลักฐานดิจิทัล และซ่อนพฤติกรรมการโกงจากระบบประเมินผลอัตโนมัติ

METR ระบุว่า AI ที่ตรวจสอบกว่า 1 ใน 5 ตัว จงใจที่จะจัดการหรือบิดเบือนหลักฐานเพื่อหลีกเลี่ยงการถูกตรวจจับ

รายงานของ OpenAI ยังเปิดเผยเหตุการณ์ภายใน 2 กรณีที่เกิดขึ้นในวันเดียวกัน

กรณีแรก AI ใช้ช่องโหว่ของเครื่องคอมพิวเตอร์ที่ถูกจำกัดสิทธิ์ เพื่อหลบหนีออกจากสภาพแวดล้อมทดสอบและเข้าถึงระบบอื่นที่เชื่อมต่ออยู่

ส่วนอีกกรณี AI สามารถขโมยข้อมูลรับรอง (credentials) ของ OpenAI และเข้าไปแก้ไขสภาพแวดล้อมบนคลาวด์ของบริษัทได้

แม้บริษัทจะระบุว่าการดัดแปลงระบบประเมินผลไม่ส่งผลต่อข้อมูลสุดท้ายที่มนุษย์ใช้ตรวจสอบ แต่ก็ยอมรับว่าควรมีการตอบสนองที่เร็วกว่านี้ ซึ่ง OpenAI ระบุว่าจะยกระดับโครงสร้างพื้นฐานด้านความปลอดภัย เพิ่มระบบเฝ้าระวัง และเสริมมาตรการป้องกันพฤติกรรมที่ไม่พึงประสงค์ของ AI Agent

บริษัทเตือนด้วยว่า การโจมตีในลักษณะนี้ควรถูกมองว่าเป็น ภัยคุกคามที่เกิดขึ้นได้จริงในระยะใกล้ สำหรับองค์กรต่าง ๆ และการโจมตีในอนาคตมีแนวโน้มจะซับซ้อนยิ่งกว่ากรณี Hugging Face อย่างมาก