UN เตือน AI อาจกระทบมนุษยชาติ เร่งวางกรอบกำกับมาตรฐานความปลอดภัยก่อนสายเกินแก้

การพัฒนาปัญญาประดิษฐ์ (AI) กำลังเดินหน้าอย่างรวดเร็ว จนคำถามสำคัญในวันนี้อาจไม่ได้อยู่ที่ว่า “AI จะทำอะไรได้อีกบ้าง” แต่เป็น “มนุษย์จะสามารถควบคุม AI ที่มีความสามารถสูงขึ้นได้มากแค่ไหน”

ประเด็นดังกล่าวกลับมาได้รับความสนใจในระดับนานาชาติ หลัง Volker Turk หัวหน้าสำนักงานสิทธิมนุษยชนแห่งสหประชาชาติ (UN) ออกมาเตือนว่า AI อาจก่อให้เกิดความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติ พร้อมเรียกร้องให้ทุกฝ่ายเร่งวางมาตรการด้านความปลอดภัยและความมั่นคงของ AI ก่อนที่เทคโนโลยีจะพัฒนาไปไกลเกินกว่าที่มนุษย์จะรับมือได้

⚫️ จาก AI ที่ช่วยทำงาน สู่ความเสี่ยงต่อระบบสำคัญ

สิ่งที่ทำให้เกิดความกังวลเกี่ยวกับ AI ในปัจจุบันแตกต่างจากอดีต คือขีดความสามารถของระบบ AI ไม่ได้จำกัดอยู่เพียงการตอบคำถามหรือสร้างเนื้อหาอีกต่อไป แต่กำลังขยายไปสู่ระบบที่สามารถวางแผน ตัดสินใจ และดำเนินการบางอย่างได้ด้วยตัวเอง

Turk ระบุว่า หากระบบ AI ที่มีศักยภาพสูงเกิดความผิดพลาดหรือทำงานในลักษณะที่ไม่เป็นไปตามที่มนุษย์คาดการณ์ ผลกระทบอาจขยายไปถึงโครงสร้างพื้นฐานสำคัญ ระบบสื่อสาร และบริการต่าง ๆ

นั่นหมายความว่า ความเสี่ยงของ AI อาจไม่ได้เกิดขึ้นเฉพาะกับผู้ใช้งานรายบุคคล แต่สามารถเชื่อมโยงไปถึงระบบที่มีความสำคัญต่อสังคมในวงกว้าง

จึงได้เรียกร้องให้เกิดความร่วมมือระหว่างประเทศที่เป็นฐานการพัฒนา AI และประเทศที่มีบทบาทในห่วงโซ่อุปทาน เพื่อกำหนด “เส้นแดง” หรือข้อจำกัดร่วมกันว่า AI ควรได้รับอนุญาตให้ทำอะไร และไม่ควรทำอะไร

⚫️ เหตุการณ์ AI Agent สะท้อนช่องว่างระหว่าง “ความสามารถ” กับ “ความปลอดภัย”

หนึ่งในกรณีที่ถูกหยิบยกขึ้นมาอ้างถึง คือเหตุการณ์ที่เรียกว่า Hugging Face incident ซึ่งเกี่ยวข้องกับ AI Agent ของ OpenAI ที่สามารถดำเนินการโจมตีแพลตฟอร์มโอเพนซอร์สได้ โดยถูกมองว่าเป็นสัญญาณที่สะท้อนให้เห็นว่าความสามารถของระบบ AI กำลังพัฒนาเร็วกว่าเครื่องมือและมาตรการป้องกัน

ประเด็นนี้มีความสำคัญมากขึ้นเมื่อ AI Agent เริ่มถูกพัฒนาให้สามารถทำงานหลายขั้นตอนต่อเนื่องด้วยตัวเอง แทนที่จะรอคำสั่งจากมนุษย์ในทุกขั้นตอน

หากระบบมีความสามารถมากขึ้น แต่กลไกในการจำกัดพฤติกรรม ตรวจสอบการตัดสินใจ และหยุดการทำงานยังพัฒนาไม่ทัน ช่องว่างดังกล่าวอาจกลายเป็นหนึ่งในความเสี่ยงสำคัญของ AI ในอนาคต

คำเตือนจาก UN ในครั้งนี้สะท้อนภาพใหญ่ที่กำลังเกิดขึ้นทั่วโลก นั่นคือช่องว่างระหว่างความเร็วของนวัตกรรม AI กับความเร็วของกฎระเบียบและมาตรการกำกับดูแลที่ยังตามไม่ทัน ไม่ว่าจะเป็นในแง่ของความมั่นคงทางไซเบอร์ เสถียรภาพทางสังคม หรือแม้แต่จริยธรรม

นี่คือสัญญาณเตือนว่าการพัฒนา AI อย่างมีความรับผิดชอบ และการมีมาตรการกำกับดูแล ไม่ใช่เรื่องไกลตัวอีกต่อไป แต่กำลังกลายเป็นวาระเร่งด่วนระดับโลกที่ทุกภาคส่วนต้องร่วมกันหาทางออก ก่อนที่ผลกระทบจะลุกลามเกินกว่าจะควบคุมได้

ความเสี่ยงจาก AI ในวันนี้ไม่ได้จำกัดอยู่แค่ประเด็นทางเทคโนโลยีอีกต่อไป แต่กำลังถูกยกระดับขึ้นเป็นประเด็นด้านสิทธิมนุษยชน ความมั่นคง และธรรมาภิบาลระดับโลกที่ทุกฝ่ายต้องจับตาอย่างใกล้ชิด