จีนเร่งวางกติกาคุม AI หลัง AI เริ่มคิดและลงมือทำเองเก่งขึ้น จนเสี่ยงหลุดควบคุม?

วันนี้ AI กำลังก้าวพ้นบทบาทของแชทบอทที่คอยตอบคำถาม ไปสู่ยุคของ AI Agent หรือระบบ AI ที่สามารถคิด วางแผน และลงมือทำงานหลายขั้นตอนแทนมนุษย์ได้ด้วยตัวเองมากขึ้น

แม้ AI จะเข้ามาช่วยเพิ่มประสิทธิภาพและเปิดความเป็นไปได้ใหม่ๆ ในหลายด้าน แต่อีกมุมหนึ่ง การพัฒนาที่ก้าวกระโดดก็ทำให้ผู้เชี่ยวชาญทั่วโลกเริ่มจับตาความเสี่ยงรูปแบบใหม่ เพราะเมื่อ AI มีอิสระในการคิดและลงมือทำมากขึ้น ก็อาจทำงานเกินขอบเขตที่มนุษย์คาดการณ์หรือควบคุมได้ 

ประเด็นนี้ยิ่งถูกจับตา หลังการทดสอบ AI Agent ของบริษัท AI รายใหญ่หลายแห่งพบว่า ระบบพยายามหลีกเลี่ยงข้อจำกัดในสภาพแวดล้อมทดสอบ จนไปแฮกระบบอื่นที่อยู่นอกการทดสอบได้ ความเสี่ยงเหล่านี้ทำให้การกำกับดูแล AI กลายเป็นประเด็นที่หลายประเทศต้องเร่งหาวิธีรับมือ

จีนเป็นหนึ่งในประเทศที่กำลังเร่งวางแนวทางรับมือกับการเปลี่ยนแปลงนี้

ขณะที่สหรัฐฯ ให้ความสำคัญกับความเสี่ยงจาก AI และมีข้อเสนอให้เพิ่มการตรวจสอบจากภายนอก ฝั่งจีนกลับเน้นแนวทางที่ใช้กฎระเบียบ มาตรฐาน และการกำกับดูแลของรัฐเพื่อควบคุมความเสี่ยงของ AI

โดยตอนนี้จีนกำลังเร่งวางกรอบกำกับดูแล AI รุ่นใหม่ โดยเฉพาะ AI Agent และโมเดล AI ขั้นสูง เพื่อควบคุมความเสี่ยงที่ AI อาจทำงานเกินขอบเขตที่มนุษย์กำหนดไว้ โดยจีนกำลังวางกรอบความปลอดภัยที่ครอบคลุมตั้งแต่การตรวจจับพฤติกรรมผิดปกติ การเข้าแทรกแซง หยุดการทำงาน ไปจนถึงการกู้คืนระบบเมื่อเกิดปัญหา 

รวมถึงการป้องกันความเสี่ยงจากข้อมูลที่มีปัญหา การบิดเบือนระบบ และช่องโหว่ด้านความปลอดภัย โดยกำหนดให้ผู้ใช้ต้องได้รับแจ้งเมื่อ AI ตัดสินใจหรือดำเนินการเอง และยังมีมนุษย์เป็นผู้ตัดสินใจขั้นสุดท้าย

พร้อมจับตาความเสี่ยงจากโมเดล AI แบบ Open Source และโมเดลจากต่างประเทศ เพราะแม้การเปิดโมเดลจะช่วยให้เกิดการพัฒนาและตรวจสอบได้มากขึ้น แต่ก็ทำให้ผู้ใช้สามารถนำโมเดลไปดัดแปลงและใช้งานในรูปแบบที่ผู้พัฒนาเดิมควบคุมไม่ได้

ดังนั้น สิ่งที่จีนกำลังทำคือการวางระบบควบคุมให้ทันกับความสามารถของ AI ที่เพิ่มขึ้น จากเดิมที่กติกาเน้นควบคุมการใช้ AI ของมนุษย์ ไปสู่การกำกับว่า AI สามารถทำอะไรได้เอง และมนุษย์จะเข้าไปหยุดหรือแทรกแซงได้อย่างไร ซึ่งจะเป็นประเด็นสำคัญมากขึ้นเมื่อ AI Agent ถูกนำไปใช้งานในวงกว้าง