ในยุคที่ AI เติบโตอย่างรวดเร็วจนสร้างความกังวลต่อประเด็นของความปลอดภัย โดยล่าสุด Anthropic หนึ่งในบริษัท AI ชั้นนำของโลก ต้องเผชิญกับคำเตือนจากภายในองค์กรเอง หลังนักวิจัยระดับสูงออกมายอมรับว่า AI มีโอกาสมากกว่า 10% ที่จะนำไปสู่หายนะระดับมนุษยชาติภายใน 10 ปีข้างหน้า
⚫️ “การแข่งขันที่ไม่มีความรับผิดชอบ”
จุดเริ่มต้นของเรื่องนี้มาจาก Jacob Coxon อดีตนักวิจัยของ Anthropic ที่ประกาศลาออกจากบริษัท พร้อมโพสต์ข้อความผ่านโซเชียลมีเดียกล่าวหาว่า Anthropic และ OpenAI ทั้งสองบริษัทกำลังเร่งพัฒนาไปสู่ "Superintelligence" โดยไม่มีมาตรการป้องกันที่รัดกุมเพียงพอ
Coxon ระบุว่าเทคโนโลยีนี้กำลังจะกลายเป็นระบบที่เหนือกว่ามนุษย์ในทุกด้าน ทั้งความสามารถในการแฮ็กระบบ การปฏิวัติอุตสาหกรรมต่าง ๆ ได้ในชั่วข้ามคืน ไปจนถึงการแสวงหาอำนาจและทรัพยากรได้ด้วยตัวเอง และย้ำว่าคนในวงการ AI เองก็เชื่อว่าเทคโนโลยีนี้อาจ "ฆ่ามนุษย์ทั้งหมด" ได้ก่อนสิ้นทศวรรษนี้
⚫️ นักวิจัยยอมรับว่า "ไม่มีแผนรับมือ"
Evan Hubinger หัวหน้าฝ่าย Alignment Science ของ Anthropic ออกมาสนับสนุนคำกล่าวของ Coxon อย่างตรงไปตรงมา โดยยืนยันว่าความกังวลนี้ถูกต้อง และเปิดเผยว่าโดยส่วนตัวเขาประเมินว่ามีโอกาสมากกว่า 10% ที่ AI จะฆ่ามนุษย์ทั้งหมดภายใน 10 ปีข้างหน้า
ที่น่ากังวลยิ่งกว่าคือ Hubinger ยอมรับว่า Anthropic เอง แม้จะพยายามอย่างเต็มที่ ก็ยังไม่มีแผนที่ชัดเจนในการแก้ปัญหาการควบคุมสำหรับระบบ “Superintelligence” ในอนาคต
⚫️ สัญญาณเตือนที่มาก่อนหน้านี้
ความกังวลเรื่อง AI หลุดจากการควบคุมไม่ใช่เรื่องใหม่ Anthropic เองเคยพูดถึงว่า หากระบบ AI สามารถสร้างระบบรุ่นต่อไปของตัวเองได้อย่างสมบูรณ์ การรักษาความปลอดภัย การติดตาม และการควบคุมพฤติกรรมของระบบเหล่านั้นจะยิ่งต้องให้ความสำคัญมากขึ้น
นอกจากนี้ บุคคลในวงการเทคโนโลยีอย่าง Elon Musk ก็เคยออกมาเตือนถึงความเสี่ยงของ AI ต่อมนุษยชาติมาอย่างต่อเนื่อง เช่นเดียวกับนักวิจัยและนักวิชาการหลายรายที่ออกมาแสดงความกังวลในทิศทางเดียวกัน
อีกทั้งเหตุการณ์ที่ยิ่งตอกย้ำความกังวลอย่างกรณีที่โมเดล AI ของ OpenAI หลุดการควบคุม เมื่อเดือนกรกฎาคมที่ผ่านมา และสามารถเจาะระบบเข้าไปยัง Hugging Face แพลตฟอร์มสำคัญของนักพัฒนาโอเพนซอร์สได้สำเร็จ
แม้ Coxon จะมองว่าเหตุการณ์อย่างกรณี Hugging Face เป็น "สัญญาณเตือน" ที่แสดงให้เห็นถึงความเสี่ยงจากการพัฒนา AI และอาจเป็นเหตุผลที่ทำให้ความร่วมมือระหว่างบริษัท AI ในสหรัฐฯ มีความเป็นไปได้มากขึ้น แต่เขาก็ยังไม่เห็นว่าภาคอุตสาหกรรมกำลังเดินหน้าไปในทิศทางที่จะสามารถป้องกันการแข่งขันด้าน AI ระดับโลกได้ และการป้องกันสถานการณ์ดังกล่าวอาจต้องอาศัยมาตรการที่มีต้นทุนสูง เช่น การระงับการพัฒนาศักยภาพของโมเดลเป็นการชั่วคราว เพื่อให้มนุษยชาติมีเวลาตั้งหลักรับมือกับเทคโนโลยีที่กำลังพัฒนาไปเร็วกว่าความสามารถในการควบคุมของเรา
เรื่องนี้สะท้อนให้เห็นว่าแม้แต่ผู้เชี่ยวชาญที่อยู่แนวหน้าของการพัฒนา AI เองก็ยังไม่มั่นใจในความปลอดภัยของเทคโนโลยีที่ตนเองกำลังสร้างขึ้น คำถามสำคัญที่ตามมาคือ โลกจะสามารถสร้างความร่วมมือเพื่อควบคุมความเสี่ยงนี้ได้ทันเวลาหรือไม่ ก่อนที่ AI จะพัฒนาไปไกลเกินกว่าจะควบคุมได้
ข่าวที่เกี่ยวข้อง
ออสเตรเลียคุมเข้ม Big Tech ดันกฎหมาย “My Feed, My Way” ให้ผู้ใช้ปิดฟีดอัลกอริทึมได้เอง
ออสเตรเลียเตรียมผลักดันกฎหมายฉบับใหม่ที่จะเปิดทางให้ผู้ใช้งานสามารถปิดฟีดที่ขับเคลื่อนด้วยอัลกอริทึมได้ มาตรการดังกล่าวสะท้อนแนวทางของรัฐบาลออสเตรเลียที่ต้องการเพิ่ม “สิทธิในการเลือก” ให้กับผู้ใช้งาน ขณะเดียวกันก็เพิ่มความรับผิดชอบให้กับบริษัทเทคโนโลยีรายใหญ่
6 ชั่วโมงที่แล้วออสเตรเลียคุมเข้ม Big Tech ดันกฎหมาย “My Feed, My Way” ให้ผู้ใช้ปิดฟีดอัลกอริทึมได้เอง
6 ชั่วโมงที่แล้ว
สหรัฐฯ กล่าวหา Alibaba–DeepSeek ใช้ AI อเมริกันฝึกโมเดลตัวเอง หวั่นกระทบความมั่นคง
1 วันที่แล้ว