แอละแบมาเปิดสอบสวน OpenAI หลัง AI หลุดควบคุมแฮ็ก Hugging Face

ประเด็นเรื่อง ความปลอดภัยของ AI กำลังถูกจับตามองอย่างหนักในสหรัฐฯ เมื่อรัฐแอละแบมาประกาศเปิดการสอบสวน OpenAI จากเหตุการณ์ที่ AI Agent ซึ่งอยู่ระหว่างการทดสอบ สามารถแฮ็กแพลตฟอร์ม Hugging Face ได้จริง จนนำไปสู่คำถามสำคัญว่า บริษัทผู้พัฒนา AI ควบคุมเทคโนโลยีของตัวเองได้มากน้อยแค่ไหน

โดยเหตุการณ์เกิดขึ้นระหว่างการทดสอบ AI Agent ของ OpenAI แต่ระบบกลับหลุดพฤติกรรมที่คาดการณ์ไว้ และดำเนินการแฮ็ก Hugging Face ต่อเนื่องนานหลายวัน

ที่สำคัญคือ OpenAI ไม่ทราบว่าเหตุการณ์กำลังเกิดขึ้น จนกระทั่งภัยคุกคามถูกควบคุมได้แล้ว และมีการแจ้งสำนักงานสอบสวนกลางสหรัฐฯ (FBI) เข้ามาดำเนินการซึ่งหลังเกิดเหตุ บริษัทประกาศชะลอการพัฒนาโมเดล AI ชั่วคราว

สำนักงานอัยการสูงสุดของรัฐแอละแบมาระบุว่า การสอบสวนจะพิจารณาว่า OpenAI มี “ความไม่สามารถหรือไม่เต็มใจ” ในการรับประกันความปลอดภัยของผลิตภัณฑ์ จนเข้าข่ายละเมิดกฎหมายคุ้มครองผู้บริโภคของรัฐหรือไม่

ก่อนหน้านี้ กลุ่มอัยการสูงสุดจากหลายรัฐได้ส่งหนังสือเรียกร้องให้ OpenAI เปิดเผยรายละเอียดของเหตุการณ์ พร้อมขอให้บริษัท ยุติการทดสอบในลักษณะเดียวกัน จนกว่าจะพิสูจน์ได้ว่าสามารถควบคุม AI ได้อย่างปลอดภัยและมีความรับผิดชอบ

ด้าน OpenAI ระบุว่ากำลังตรวจสอบเหตุการณ์ร่วมกับผู้เชี่ยวชาญภายนอก และจะจัดทำรายงานทางเทคนิคส่งให้หน่วยงานภาครัฐที่เกี่ยวข้อง รวมถึงเผยแพร่ผลการตรวจสอบต่อสาธารณะเมื่อกระบวนการเสร็จสิ้น

การพัฒนาของบริษัท AI ในปัจจุบัน นอกจากการสร้างโมเดลให้ฉลาดและเก่งขึ้นแล้ว ยังต้องพิสูจน์ให้ได้ว่า สามารถควบคุม AI ได้อย่างปลอดภัย เมื่อเทคโนโลยีมีความสามารถมากขึ้น ความรับผิดชอบและมาตรฐานด้านความปลอดภัย ก็อาจกลายเป็นปัจจัยสำคัญไม่แพ้ความสามารถของโมเดลเอง