เมื่อ AI เริ่มเข้าไปอยู่ในระบบสงคราม สหรัฐฯและจีนจะคุมความเสี่ยงยังไง?

เมื่อ AI ก้าวเข้ามามีบทบาทมากขึ้นทั้งในระบบเศรษฐกิจ เทคโนโลยี และความมั่นคงเทคโนโลยีนี้จึงกลายเป็นอีกหนึ่งพื้นที่ของการแข่งขันระหว่างมหาอำนาจอย่างสหรัฐฯ และจีน ทั้งในด้านการพัฒนาขีดความสามารถ และการนำ AI ไปใช้ในระบบที่เกี่ยวข้องกับการป้องกันประเทศ

ทว่า เมื่อ AI พัฒนาไปไกลกว่าการใช้งานในภาคธุรกิจและเทคโนโลยีทั่วไป เทคโนโลยีนี้ก็เริ่มถูกนำมาประยุกต์ใช้ในภารกิจด้านความมั่นคงและการทหารมากขึ้น

ผู้เชี่ยวชาญจาก Brookings Institution ของสหรัฐฯ และมหาวิทยาลัย Tsinghua ของจีน จึงเสนอให้ทั้งสองประเทศสร้างกติกาควบคุม AI ทางทหาร ที่มีลักษณะคล้ายมาตรการควบคุมอาวุธนิวเคลียร์

ทำไมต้องใช้ลักษณะคล้ายกับอาวุธนิวเคลียร์?

หากเปรียบเทียบกับอาวุธนิวเคลียร์ การควบคุมอาวุธดังกล่าวในยุคสงครามเย็น ยังอาศัยสิ่งที่สามารถตรวจสอบได้ค่อนข้างชัดเจน เช่น จำนวนอาวุธ ฐานที่ตั้ง และระบบยิง 

ขณะที่ AI เป็นเทคโนโลยีที่สามารถปรับเปลี่ยน พัฒนา และนำไปฝังอยู่ในระบบต่างๆ ได้ ทำให้การตรวจสอบและกำกับดูแลมีความซับซ้อนมากกว่า

อีกอย่าง จุดตั้งต้นของข้อเสนอนี้จริงๆแล้วคือสถานการณ์สมมติที่น่าขนลุก ว่าหาก AI ถูกนำมาใช้ในระบบที่เกี่ยวข้องกับการเตือนภัย การบัญชาการ หรือปฏิบัติการทางไซเบอร์ ความเร็วของระบบอาจทำให้มนุษย์มีเวลาตรวจสอบสถานการณ์น้อยลง เช่น หากระบบตรวจพบสัญญาณที่ดูเหมือนการโจมตี แต่เป็นเพียงความผิดพลาดทางเทคนิค ผู้บังคับบัญชาอาจมีเวลาไม่มากพอที่จะตรวจสอบก่อนตัดสินใจตอบสนอง 

ยิ่ง AI ทำงานได้เร็วขึ้น เวลาที่มนุษย์ใช้ตรวจสอบก็ยิ่งสั้นลง และเพิ่มความเสี่ยงที่ความผิดพลาดจะนำไปสู่ความขัดแย้งโดยไม่ตั้งใจ ซึ่งความผิดพลาดเพียงครั้งเดียวก็อาจลุกลามจนกลายเป็นความขัดแย้งโดยไม่ตั้งใจ

สามเสาหลักของข้อเสนอ

ข้อเสนอจากคณะผู้เชี่ยวชาญวางกรอบไว้สามด้านหลัก ได้แก่ 

• กำหนดเส้นแดงรอบระบบนิวเคลียร์  ห้าม AI ตัดสินใจใช้อาวุธนิวเคลียร์หรือโจมตีระบบบัญชาการและควบคุมนิวเคลียร์โดยอัตโนมัติ พร้อมพิจารณาขยายหลักการเดียวกันไปยังโครงสร้างพื้นฐานสำคัญ เช่น ระบบพลังงาน การเงิน และสาธารณสุข

• ให้มนุษย์กำกับปฏิบัติการไซเบอร์ที่มีนัยสำคัญ  เพื่อไม่ให้ระบบอัตโนมัติตัดสินใจโจมตีทางไซเบอร์ด้วยตัวเอง จนอีกฝ่ายอาจมองว่าเป็นการรุกรานทางทหาร

• สร้างสายด่วนสำหรับเหตุการณ์เกี่ยวกับ AI  เพื่อให้ทั้งสองฝ่ายสามารถสื่อสาร ตรวจสอบเหตุการณ์ และคลี่คลายความเข้าใจผิดได้อย่างรวดเร็ว ก่อนสถานการณ์จะบานปลาย
  

ทำไมข้อเสนอนี้ถึงออกมาในช่วงนี้?

ก่อนหน้านี้ ทั้งสองประเทศยังเผชิญกับโจทย์สำคัญว่า จะสร้างกติกาด้านความปลอดภัยยังไงโดยไม่ให้กลายเป็นข้อจำกัดต่อความสามารถในการแข่งขันด้าน AI ของตัวเอง 

อย่างสหรัฐฯ ก็กังวลว่าการควบคุมที่เข้มงวดเกินไปอาจกระทบความได้เปรียบทางเทคโนโลยี ขณะที่จีนเองก็มองว่ามาตรการควบคุมเทคโนโลยีของสหรัฐฯ หลายด้านก็มีผลจำกัดการพัฒนาของจีนอยู่แล้ว ทำให้เส้นแบ่งระหว่างการลดความเสี่ยงจาก AI กับการแข่งขันเชิงยุทธศาสตร์ยิ่งแยกออกจากกันได้ยาก

ทว่า แม้ข้อเสนอเหล่านี้ยังเป็นเพียงแนวคิดจากกลุ่มผู้เชี่ยวชาญ และยังไม่ได้รับการรับรองอย่างเป็นทางการจากรัฐบาลสหรัฐฯ หรือจีน แต่การที่ผู้เชี่ยวชาญจากทั้งสองประเทศนำ AI มาหารือในกรอบเดียวกับการควบคุมอาวุธในช่วงก่อนการเจรจาด้าน AI ระดับรัฐบาลและการพบปะระหว่างผู้นำสหรัฐฯ กับจีน 

ซึ่งหากคิดในอีกด้านหนึ่งของการแข่งขันด้านเทคโนโลยี ก็อาจหมายความได้ว่าทั้งสองประเทศก็เริ่มหารือถึงวิธีจัดการความเสี่ยงที่เกิดจาก AI โดยเฉพาะเมื่อเทคโนโลยีนี้ถูกนำไปใช้ในงานด้านความมั่นคงและการทหารมากขึ้นแล้วหรือไม่