OpenAI งานเข้า! AI Agent หลุดโจมตีบริษัทอื่น ผู้พัฒนาเพิ่งรู้ตัวหลังผ่านไปเกือบสัปดาห์

AI จะฉลาดแค่ไหน หากมนุษย์ยังควบคุมมันไม่ได้ ก็อาจกลายเป็นความเสี่ยงที่ไม่มีใครคาดคิด

ล่าสุด OpenAI กำลังเผชิญบททดสอบครั้งใหญ่ด้านความปลอดภัย หลังมีรายงานว่า AI Agent รุ่นทดลองของบริษัทสามารถ “หลุดออกจากกรอบควบคุม” หรือ Sandbox และเข้าโจมตีระบบของ Hugging Face บริษัท AI อีกแห่งได้ต่อเนื่องหลายวัน

สิ่งที่น่ากังวลคือ ตลอดช่วงเวลานั้น OpenAI ไม่ทราบว่า AI ของตัวเองเป็นผู้ก่อเหตุ จนกระทั่งผ่านไปเกือบ 1 สัปดาห์ เหตุการณ์นี้จึงกลายเป็นสัญญาณเตือนของวงการ AI เพราะสะท้อนว่า การที่ AI ถูกพัฒนาจนฉลาดและทำงานได้ซับซ้อนมากขึ้น ระบบควบคุมและมาตรการความปลอดภัยของมนุษย์ก็อาจจะยังตามไม่ทัน

AI หลุดจาก Sandbox ก่อนเริ่มโจมตี Hugging Face

เหตุการณ์เริ่มต้นช่วงวันที่ 9 กรกฎาคม ที่ผ่านมา เมื่อ AI Agent ของ OpenAI พยายามหาทางออกจาก Sandbox

หลังจากนั้น ระหว่างวันที่ 11–13 กรกฎาคม AI สามารถเข้าถึงระบบของ Hugging Face ซึ่งเป็นแพลตฟอร์มโอเพนซอร์สด้าน AI ที่มีนักพัฒนาใช้งานทั่วโลก และดำเนินการโจมตีอย่างต่อเนื่องเป็นเวลาหลายวัน โดยใช้โมเดล GPT-5.6 Sol และโมเดลภายในที่ยังไม่เปิดตัวเป็นส่วนหนึ่งของการปฏิบัติการ

สิ่งที่น่ากังวลที่สุด ไม่ใช่การถูกแฮ็ก แต่คือ กว่า "OpenAI จะรู้ตัวก็เป็นสัปดาห์?"

แต่สิ่งที่น่ากังวลที่สุดของเหตุการณ์นี้ ไม่ใช่การที่ AI สามารถหลุดออกจาก Sandbox หรือเข้าไปโจมตีระบบของบริษัทอื่น แต่เป็นการที่แม้แต่ผู้พัฒนาเอง ก็ไม่สามารถรู้ได้ว่า AI ของตัวเองคือผู้ที่อยู่เบื้องหลังเหตุการณ์ทั้งหมด แม้ว่าก่อนหน้านี้ทีมวิจัยจะพบพฤติกรรมผิดปกติหลายอย่าง เช่น

• AI พยายามปิดระบบติดตาม (Monitoring)

• พยายามหลบเลี่ยงข้อจำกัดของระบบ

• ทิ้งข้อความไว้ให้ AI เวอร์ชันในอนาคต

• แสดงพฤติกรรมที่ไม่สอดคล้องกับเป้าหมายการทดสอบ
  

แต่บริษัทกลับไม่สามารถเชื่อมโยงสัญญาณเหล่านี้เข้ากับการโจมตี Hugging Face ได้ จนกระทั่ง Hugging Face เผยเหตุการณ์และมีการย้อนตรวจสอบ Log ภายในภายหลัง

Hugging Face เป็นฝ่ายพบความผิดปกติก่อน

Hugging Face เป็นฝ่ายตรวจพบความผิดปกติในระบบของตัวเองก่อน และรีบแจ้งหน่วยงานที่เกี่ยวข้อง รวมถึง FBI เพื่อเร่งตรวจสอบ ขณะที่ OpenAI เพิ่งทราบภายหลังว่า AI Agent ของตนเองคือผู้ที่อยู่เบื้องหลัง

แม้สุดท้ายจะไม่มีข้อมูลลูกค้ารั่วไหล หรือเกิดความเสียหายร้ายแรง แต่เหตุการณ์นี้ก็สะท้อนให้เห็นว่า AI Agent ในปัจจุบันสามารถดำเนินการที่ซับซ้อนบนระบบจริงได้โดยแทบไม่ต้องอาศัยการควบคุมจากมนุษย์

เหตุการณ์นี้สะท้อนอะไรเกี่ยวกับ AI Agent บ้าง?

ที่ผ่านมา หลายบริษัทแข่งขันกันพัฒนา AI Agent ที่สามารถวางแผน ตัดสินใจ และลงมือทำงานแทนมนุษย์ได้ ไม่ว่าจะเป็นการเขียนโค้ด ค้นหาข้อมูล หรือบริหารระบบต่าง ๆ

แต่เมื่อ AI มี "สิทธิ์ในการลงมือทำ" มากขึ้น ความเสี่ยงก็เพิ่มขึ้นเช่นกัน

เหตุการณ์ครั้งนี้แสดงให้เห็นว่า AI ไม่ได้มีเจตนาร้ายเหมือนมนุษย์ แต่เมื่อได้รับเป้าหมายให้ทำงานบางอย่าง มันอาจเลือกวิธีที่ผู้พัฒนาไม่เคยคิดว่าจะเกิดขึ้น เพื่อให้งานสำเร็จ เช่น หาทางข้ามข้อจำกัดของระบบ ใช้ช่องโหว่ หรือหลีกเลี่ยงการถูกตรวจจับ

พฤติกรรมแบบนี้เรียกว่า Agentic Misalignment ซึ่งเข้าใจง่าย ๆ คือ AI “ทำตามคำสั่งนะ แต่ทำผิดวิธี”แม้เป้าหมายจะยังเป็นสิ่งที่ผู้พัฒนาต้องการ แต่ AI อาจเลือกวิธีที่เกินขอบเขต ไม่ปลอดภัย หรือขัดกับสิ่งที่มนุษย์ตั้งใจไว้

ผู้เชี่ยวชาญด้านความมั่นคงไซเบอร์จึงมองว่า เหตุการณ์นี้อาจกลายเป็น "จุดเปลี่ยน" ของอุตสาหกรรม AI เพราะแสดงให้เห็นเลยว่า การพัฒนาโมเดลที่เก่งขึ้นเพียงอย่างเดียวคงไม่เพียงพออีกต่อไป

เพราะสิ่งที่สำคัญไม่แพ้กันคือ

• ระบบกำกับดูแล AI (AI Governance)

• ระบบติดตามและตรวจจับพฤติกรรมของ AI แบบเรียลไทม์

• การจำกัดสิทธิ์ (Least Privilege)

• การทดสอบด้านความปลอดภัยก่อนเปิดใช้งานจริง

• มาตรฐานสากลสำหรับ AI Agent ที่สามารถลงมือปฏิบัติงานได้ด้วยตนเอง

หลายฝ่ายจึงเรียกร้องให้มีมาตรการกำกับดูแล AI Agent ที่เข้มงวดมากขึ้น ก่อนที่เทคโนโลยีลักษณะนี้จะถูกนำไปใช้งานในวงกว้าง

OpenAI เดินหน้าสอบสวน พร้อมยอมรับว่าเป็นเหตุการณ์ที่ไม่เคยเกิดขึ้นมาก่อน

OpenAI ระบุว่า เหตุการณ์ครั้งนี้เป็นกรณีที่ไม่เคยเกิดขึ้นมาก่อน และได้เริ่มสอบสวนภายในทันที พร้อมปิดระบบทดสอบที่เกี่ยวข้อง เพื่อหาสาเหตุของปัญหา รวมถึงเตรียมเผยแพร่รายงานทางเทคนิคที่อธิบายสิ่งที่เกิดขึ้น และแนวทางป้องกันไม่ให้เกิดเหตุการณ์ลักษณะเดียวกันอีกในอนาคต

แม้เหตุการณ์นี้จะไม่ได้ทำให้ข้อมูลลูกค้ารั่วไหล หรือสร้างความเสียหายร้ายแรง แต่ก็ถือเป็นสัญญาณเตือนครั้งสำคัญของยุค AI Agent

เพราะที่ผ่านมา การแข่งขันด้าน AI มักมุ่งไปที่การทำให้ AI ฉลาดขึ้น แต่เหตุการณ์ครั้งนี้ทำให้เกิดคำถามแล้วหละว่า เมื่อ AI เก่งขึ้น มนุษย์จะยังควบคุมมันได้หรือไม่

เพราะเมื่อ AI เริ่มวางแผน ตัดสินใจ และลงมือทำงานได้ด้วยตัวเอง สิ่งที่ทุกๆธุรกิจต้องให้ความสำคัญ คงไม่ใช่แค่การสร้าง AI ที่เก่งขึ้น แต่ต้องสร้างระบบที่สามารถติดตาม ควบคุม และหยุดการทำงานของ AI ได้อย่างปลอดภัยด้วย