นักวิจัย Anthropic ระบุ AI มีโอกาสมากกว่า 10% ที่จะ “ทำลายมนุษยชาติ”

ในยุคที่ AI เติบโตอย่างรวดเร็วจนสร้างความกังวลต่อประเด็นของความปลอดภัย โดยล่าสุด Anthropic หนึ่งในบริษัท AI ชั้นนำของโลก ต้องเผชิญกับคำเตือนจากภายในองค์กรเอง หลังนักวิจัยระดับสูงออกมายอมรับว่า AI มีโอกาสมากกว่า 10% ที่จะนำไปสู่หายนะระดับมนุษยชาติภายใน 10 ปีข้างหน้า

⚫️ “การแข่งขันที่ไม่มีความรับผิดชอบ”

จุดเริ่มต้นของเรื่องนี้มาจาก Jacob Coxon อดีตนักวิจัยของ Anthropic ที่ประกาศลาออกจากบริษัท พร้อมโพสต์ข้อความผ่านโซเชียลมีเดียกล่าวหาว่า Anthropic และ OpenAI ทั้งสองบริษัทกำลังเร่งพัฒนาไปสู่ "Superintelligence" โดยไม่มีมาตรการป้องกันที่รัดกุมเพียงพอ

Coxon ระบุว่าเทคโนโลยีนี้กำลังจะกลายเป็นระบบที่เหนือกว่ามนุษย์ในทุกด้าน ทั้งความสามารถในการแฮ็กระบบ การปฏิวัติอุตสาหกรรมต่าง ๆ ได้ในชั่วข้ามคืน ไปจนถึงการแสวงหาอำนาจและทรัพยากรได้ด้วยตัวเอง และย้ำว่าคนในวงการ AI เองก็เชื่อว่าเทคโนโลยีนี้อาจ "ฆ่ามนุษย์ทั้งหมด" ได้ก่อนสิ้นทศวรรษนี้

⚫️ นักวิจัยยอมรับว่า "ไม่มีแผนรับมือ"

Evan Hubinger หัวหน้าฝ่าย Alignment Science ของ Anthropic ออกมาสนับสนุนคำกล่าวของ Coxon อย่างตรงไปตรงมา โดยยืนยันว่าความกังวลนี้ถูกต้อง และเปิดเผยว่าโดยส่วนตัวเขาประเมินว่ามีโอกาสมากกว่า 10% ที่ AI จะฆ่ามนุษย์ทั้งหมดภายใน 10 ปีข้างหน้า

ที่น่ากังวลยิ่งกว่าคือ Hubinger ยอมรับว่า Anthropic เอง แม้จะพยายามอย่างเต็มที่ ก็ยังไม่มีแผนที่ชัดเจนในการแก้ปัญหาการควบคุมสำหรับระบบ “Superintelligence” ในอนาคต

⚫️ สัญญาณเตือนที่มาก่อนหน้านี้

ความกังวลเรื่อง AI หลุดจากการควบคุมไม่ใช่เรื่องใหม่ Anthropic เองเคยพูดถึงว่า หากระบบ AI สามารถสร้างระบบรุ่นต่อไปของตัวเองได้อย่างสมบูรณ์ การรักษาความปลอดภัย การติดตาม และการควบคุมพฤติกรรมของระบบเหล่านั้นจะยิ่งต้องให้ความสำคัญมากขึ้น

นอกจากนี้ บุคคลในวงการเทคโนโลยีอย่าง Elon Musk ก็เคยออกมาเตือนถึงความเสี่ยงของ AI ต่อมนุษยชาติมาอย่างต่อเนื่อง เช่นเดียวกับนักวิจัยและนักวิชาการหลายรายที่ออกมาแสดงความกังวลในทิศทางเดียวกัน

อีกทั้งเหตุการณ์ที่ยิ่งตอกย้ำความกังวลอย่างกรณีที่โมเดล AI ของ OpenAI หลุดการควบคุม เมื่อเดือนกรกฎาคมที่ผ่านมา และสามารถเจาะระบบเข้าไปยัง Hugging Face แพลตฟอร์มสำคัญของนักพัฒนาโอเพนซอร์สได้สำเร็จ

แม้ Coxon จะมองว่าเหตุการณ์อย่างกรณี Hugging Face เป็น "สัญญาณเตือน" ที่แสดงให้เห็นถึงความเสี่ยงจากการพัฒนา AI และอาจเป็นเหตุผลที่ทำให้ความร่วมมือระหว่างบริษัท AI ในสหรัฐฯ มีความเป็นไปได้มากขึ้น แต่เขาก็ยังไม่เห็นว่าภาคอุตสาหกรรมกำลังเดินหน้าไปในทิศทางที่จะสามารถป้องกันการแข่งขันด้าน AI ระดับโลกได้ และการป้องกันสถานการณ์ดังกล่าวอาจต้องอาศัยมาตรการที่มีต้นทุนสูง เช่น การระงับการพัฒนาศักยภาพของโมเดลเป็นการชั่วคราว เพื่อให้มนุษยชาติมีเวลาตั้งหลักรับมือกับเทคโนโลยีที่กำลังพัฒนาไปเร็วกว่าความสามารถในการควบคุมของเรา

เรื่องนี้สะท้อนให้เห็นว่าแม้แต่ผู้เชี่ยวชาญที่อยู่แนวหน้าของการพัฒนา AI เองก็ยังไม่มั่นใจในความปลอดภัยของเทคโนโลยีที่ตนเองกำลังสร้างขึ้น คำถามสำคัญที่ตามมาคือ โลกจะสามารถสร้างความร่วมมือเพื่อควบคุมความเสี่ยงนี้ได้ทันเวลาหรือไม่ ก่อนที่ AI จะพัฒนาไปไกลเกินกว่าจะควบคุมได้