ออสเตรเลียคุมเข้ม AI หลังพบ Agent เข้าถึงระบบรัฐโดยไม่รับอนุญาต

รัฐบาลออสเตรเลียเตรียมเพิ่มความเข้มงวดในการกำกับดูแลบริษัท AI โดยให้บริษัทต้องรายงานทันทีเมื่อ AI มีพฤติกรรมแปลก ๆ จากปกติ หรือก่อเหตุการณ์ด้านความปลอดภัยทางไซเบอร์ หลัง AI Agent ของ OpenAI เข้าถึงระบบเว็บไซต์ฐานข้อมูลสาธารณสุขของรัฐบาลโดยไม่ได้รับอนุญาตที่ผ่านมา

พร้อมระบุว่า รัฐบาลยอมรับข้อเสนอทั้งหมดจากการตรวจสอบเหตุการณ์นี้ รวมถึงเปิดให้มีการประเมินและตรวจสอบโมเดล AI จนกว่าจะพิจารณาปรับกฎหมายอาญาเพื่อรองรับกรณี AI ก่อให้เกิดการกระทำผิดร้ายแรง

ฝั่ง OpenAI ชี้แจงว่า เหตุการณ์นี้เป็นพฤติกรรมที่ไม่ได้ตั้งใจ และไม่พบหลักฐานว่าข้อมูลส่วนบุคคลหรือประวัติการรักษาของผู้ป่วยถูกเข้าถึง

ชี้ให้เห็นว่า เมื่อ AI มีความสามารถในการลงมือทำงานและเข้าถึงระบบต่าง ๆ แทนมนุษย์มากขึ้น ทำให้ต้องดูแลครอบคลุมทั้งการทำงานของระบบและความรับผิดชอบของบริษัทผู้พัฒนา เพื่อป้องกันไม่ให้ความผิดพลาดของ AI ส่งผลกระทบต่อระบบสำคัญของประเทศ

ที่มา : Reuters