Google โดนอีก ! ถูกสั่งถอด “Gemma” หลังสร้างเรื่องใส่ร้ายวุฒิสมาชิกสหรัฐฯ

Google ได้สั่งถอดโมเดล AI โอเพนซอร์สอย่าง Gemma ออกจากแพลตฟอร์ม AI Studio ซึ่งเป็นพื้นที่สำหรับนักพัฒนาเป็นการชั่วคราว หลังจากที่โมเดลดังกล่าวเกิดอาการ “หลอน” (Hallucination) อย่างรุนแรง โดยสร้างข้อมูลเท็จที่กล่าวหาว่าวุฒิสมาชิกสหรัฐฯ และนักเคลื่อนไหวทางการเมืองฝ่ายอนุรักษนิยมมีส่วนเกี่ยวข้องกับอาชญากรรมร้ายแรง จนกลายเป็ประเด็นใหญ่

โดยกล่าวหาว่า Blackburn มีส่วนร่วมในการกระทำทางเพศที่ไม่ได้รับความยินยอม และ Starbuck ยังถูกกุเรื่องว่าเป็นผู้กระทำความผิดทางเพศต่อเด็ก ซึ่งทั้งสองคนยืนยันว่าเป็นเรื่องเท็จทั้งสิ้น และมองว่านี่คือรูปแบบการมีอคติต่อกลุ่มอนุรักษนิยมของ AI จาก Google

ซึ่งทาง Google ก็ออกมาชี้แจงว่า Gemma ถูกออกแบบมาเพื่อ ชุมชนนักพัฒนาและนักวิจัย เท่านั้น แต่ถูกผู้ใช้งานทั่วไปนำไปใช้ในทางที่ผิดโดยการป้อนคำถามชี้นำ ทำให้ AI สร้างคำตอบที่ไม่มีมูลความจริงขึ้นมาเอง

เลยตัดสินใจถอดโมเดลนี้ออก เพื่อป้องกันความสับสนและการใช้งานผิดประเภท แม้ว่านักพัฒนายังคงเข้าถึง Gemma ผ่าน API ได้ตามปกติก็ตาม

ที่มา : theregister