Anthropic เสนอชะลอการพัฒนา AI เมื่อความเร็วของนวัตกรรมอาจแซงหน้าความปลอดภัย

Dario Amodei ซีอีโอของ Anthropic ได้ออกมาเรียกร้องให้บริษัทผู้พัฒนาโมเดลขนาดใหญ่ ชะลอการพัฒนาความสามารถของ AI ท่ามกลางความกังวลเรื่องการนำ AI ไปใช้ในทางที่ผิดและความเสี่ยงที่อาจควบคุมไม่ได้ในอนาคต

⚫️ ทำไม Anthropic จึงเสนอให้ชะลอการพัฒนา AI?

Amodei ระบุว่า AI กำลังก้าวเข้าสู่ช่วงที่ความสามารถของโมเดลพัฒนาเร็วมาก จนเสี่ยงแซงหน้าความสามารถของมนุษย์ในการกำกับดูแล หากยังเดินหน้าแข่งขันโดยไม่มีมาตรฐานร่วม ความเสี่ยงจากการใช้งานผิดวัตถุประสงค์ก็จะเพิ่มขึ้นตามไปด้วย

ก่อนหน้านี้ Anthropic เพิ่งเผยแพร่รายงานด้าน Threat Intelligence ที่พบว่าโมเดล Claude ถูกนำไปใช้ในกิจกรรมเกี่ยวกับการโจมตีไซเบอร์ การฉ้อโกง การเฝ้าระวัง และการพัฒนาอาวุธ ซึ่งเป็นสัญญาณเตือนว่าศักยภาพของ AI ไม่ได้สร้างเพียงโอกาส แต่ยังสร้างความท้าทายด้านความมั่นคงด้วย

⚫️ แผน 3 ข้อ เพื่อสร้างมาตรฐาน AI ที่ปลอดภัย

Anthropic เสนอกรอบความร่วมมือสำหรับอุตสาหกรรม AI ไว้ 3 ประการ ได้แก่

• ผู้ตรวจสอบอิสระภายในองค์กร : ผู้ตรวจสอบอิสระสามารถเข้าถึงระบบและกระบวนการประเมินความเสี่ยงในระดับใกล้เคียงพนักงาน เพื่อยืนยันว่าบริษัทปฏิบัติตามมาตรฐานความปลอดภัยจริง

• ความร่วมมือระหว่างบริษัท AI ชั้นนำ : กำหนดมาตรฐานร่วมในการพัฒนาโมเดล ความปลอดภัย และควบคุมการพัฒนา AI ที่ไร้การตรวจสอบ

• ความร่วมมือระดับนานาชาติ : สร้างแนวทางจัดการความเสี่ยงของ AI ที่สอดคล้องกันระหว่างประเทศ

Amodei ย้ำว่า เป้าหมายไม่ใช่การหยุดพัฒนา AI แต่คือการทำให้ “ความสามารถ” และ “ความปลอดภัย” เติบโตไปพร้อมกัน

⚫️ ความกังวลที่เพิ่มขึ้นจากภายในอุตสาหกรรม

ประเด็นนี้ยิ่งได้รับความสนใจ หลังนักวิจัยของ Anthropic อย่าง Jacob Coxon ลาออก พร้อมแสดงความกังวลว่าผู้พัฒนา AI จำนวนไม่น้อยเชื่อว่า AI อาจสร้างความเสี่ยงร้ายแรงต่อมนุษยชาติภายในทศวรรษนี้

Amodei ยังเตือนว่า หากอัตราการพัฒนายังคงเร่งตัว ภายใน 6–12 เดือน กลุ่ม AI Agent จำนวนมากอาจมีศักยภาพในการโจมตีหรือเข้าควบคุมระบบอินเทอร์เน็ตในวงกว้าง และสร้างความเสียหายทางเศรษฐกิจได้มหาศาล แม้จะเป็นการประเมินเชิงความเสี่ยง ไม่ใช่เหตุการณ์ที่เกิดขึ้นแล้วก็ตาม

⚫️ การแข่งขันทางธุรกิจ กับโจทย์ใหญ่ของ AI Safety

แม้หลายบริษัทจะเห็นด้วยกับแนวคิดด้านความปลอดภัย แต่ความเป็นจริงคืออุตสาหกรรม AI กำลังแข่งขันอย่างหนัก ทั้งด้านการระดมทุน การลงทุนโครงสร้างพื้นฐาน และแผนการเข้าตลาดหลักทรัพย์ (IPO)

Anthropic จึงเสนอให้ภาครัฐเปิดทางด้านกฎหมายบางส่วน เพื่อให้บริษัท AI สามารถร่วมมือกันกำหนดมาตรฐานความปลอดภัยได้โดยไม่ผิดกฎหมายแข่งขันทางการค้า พร้อมทั้งสนับสนุนการควบคุมชิป AI ขั้นสูง การป้องกันการขโมยข้อมูล และการจำกัดการถ่ายทอดเทคโนโลยีที่อาจกระทบต่อความมั่นคง

ข้อเสนอของ Anthropic สะท้อนการเปลี่ยนมุมมองสำคัญของอุตสาหกรรม AI จากเดิมที่แข่งขันกันด้วยความเร็วของนวัตกรรม ไปสู่คำถามใหม่ว่า ใครจะสามารถพัฒนา AI ที่ทรงพลัง ควบคู่กับความปลอดภัยและความรับผิดชอบได้ดีที่สุด