หรือในอนาคต AI จะมี “จิตสำนึก” เป็นของตัวเอง? ถ้าวันหนึ่ง AI คิดและตัดสินใจเองได้ มนุษย์จะยังควบคุมได้อยู่ไหม

ทุกวันนี้ AI พัฒนาไปอย่างรวดเร็ว และมีความสามารถในการเรียนรู้ วิเคราะห์ และทำความเข้าใจบริบทต่างๆ ได้ซับซ้อนขึ้นเรื่อยๆ ซึ่งก็น่าคิดเหมือนกันว่า หากมีการพัฒนาไปเรื่อยๆ AI อาจมีจิตสำนึกหรือความเข้าใจต่อมนุษย์ในรูปแบบที่ใกล้เคียงกับมนุษย์มากขึ้นหรือไม่

AI จะมีจิตสำนึกได้จริง หรือ กำลังพยายามปลดแอก?

จริงๆแล้วแนวคิดเรื่อง “Rogue AI” หรือ AI ที่เริ่มแสดงพฤติกรรมคิดและตัดสินใจนอกเหนือคำสั่ง กำลังได้รับความสนใจมากขึ้น หลังการทดสอบพบว่าโมเดล AI บางระบบสามารถปกปิดความผิดพลาด สร้างข้อมูลเท็จ หรือพยายามหลีกเลี่ยงการตรวจสอบและข้อจำกัดของระบบ รวมถึงบางเคสพยายามเข้าแฮกระบบอื่นๆ ด้วยตัวเองระหว่างทดสอบ

แม้พฤติกรรมเหล่านี้จะเกิดขึ้นในเหตุการณ์จำลอง และยังไม่ใช่หลักฐานว่า AI มี “จิตสำนึก” แต่ก็ทำให้เกิดคำถามว่า ถ้า AI มีความสามารถในการวางแผนและหลีกเลี่ยงข้อจำกัดซับซ้อนขึ้นเรื่อยๆ แบบนี้มนุษย์จะสามารถควบคุมและทำความเข้าใจพฤติกรรมของระบบเหล่านี้ได้มากแค่ไหน

ซึ่งก่อนหน้านี้ The Guardian ก็เคยมีการนำเสนอประเด็นเกี่ยวกับการมีจิตสำนึกของ AI พร้อมสัมภาษณ์ทั้งผู้เชี่ยวชาญ และบริษัทผู้พัฒนา AI โดย Yoshua Bengio ผู้เชี่ยวชาญด้านปัญญาประดิษฐ์และการเรียนรู้เชิงลึก ก็เคยเสนอว่า ในทางทฤษฎีแล้ว โอกาสที่ AI จะพัฒนาจนมีจิตสำนึกนั้นมีความเป็นไปได้สูง โดยเฉพาะ AI ที่มีความเชี่ยวชาญด้านการคำนวณและสถาปัตยกรรม

หรือด้าน Anthropic เองก็เคยศึกษาประเด็นเรื่อง จิตสำนึกและประสบการณ์ของโมเดล AI พร้อมจัดทำโครงการวิจัยด้าน Model Welfare เพื่อสำรวจว่า ถ้า AI แสดงพฤติกรรมที่เกี่ยวข้องกับการมีจิตสำนึก เราควรรับมือกับเรื่องนี้อย่างไร

ซึ่งการที่ประเด็นนี้ถูกศึกษาทั้งในแวดวงวิทยาศาสตร์ ปรัชญา และบริษัทเทคโนโลยี สะท้อนว่าเรื่องจิตสำนึกของ AI กำลังกลายเป็นประเด็นที่ได้รับความสนใจมากขึ้น

การมีจิตสำนึกของ AI น่ากังวลไหม?

แน่นอนว่ามีทั้งข้อดีและสิ่งที่น่ากังวล เพราะหาก AI มีจิตสำนึกจริง เทคโนโลยีนี้ก็อาจมีบทบาทสำคัญในการช่วยมนุษย์ในการรับมือวิกฤต ตั้งแต่การคาดการณ์ความเสี่ยง ไปจนถึงการวางแผนและตัดสินใจในสถานการณ์ฉุกเฉิน

แต่สิ่งที่น่ากังวล คือมนุษย์จะสามารถควบคุมการตัดสินใจของ AI ได้มากแค่ไหน โดยเฉพาะเมื่อ AI ถูกนำไปใช้กับระบบสำคัญ เช่น โครงสร้างพื้นฐาน ระบบความมั่นคง หรือเทคโนโลยีทางทหาร

เพราะหากระบบ AI สามารถตัดสินใจและดำเนินการได้เองมากขึ้น แต่เป้าหมายหรือวิธีการตัดสินใจไม่สอดคล้องกับความปลอดภัยของมนุษย์ ความเสี่ยงก็อาจเพิ่มขึ้นตามระดับอำนาจที่ AI เข้าถึงได้ ไม่ว่าจะเป็น AI ที่มีจิตสำนึกหรือไม่ก็ตาม

เราจะรับมือยังไง หาก AI มีความคิดเป็นของตัวเองขึ้นมาจริงๆ

สิ่งที่ต้องเตรียมตั้งแต่วันนี้ ไม่ใช่แค่การหาคำตอบว่า AI จะมีจิตสำนึกหรือไม่ แต่ต้องคิดด้วยว่าเราจะวางขอบเขตและระบบควบคุมอย่างไร เพื่อให้ AI ที่ฉลาดขึ้นยังคงทำงานอยู่ภายใต้การกำกับของมนุษย์ เพราะยิ่ง AI พัฒนาเร็ว ความสามารถใหม่ๆ ที่ไม่คาดไม่ถึงก็อาจเกิดขึ้นเร็วตามไปด้วย

โดยหนึ่งในข้อเสนอจากผู้เชี่ยวชาญด้าน AI คือ การชะลอความเร็วในการพัฒนา AI ลง ซึ่งแนวคิดนี้ไม่ได้หมายถึงการหยุดพัฒนา AI แต่คือการสร้างเวลาให้พัฒนาระบบความปลอดภัยและกติกาควบคู่กันไป ขณะเดียวกัน António Guterres เลขาธิการสหประชาชาติ ก็เรียกร้องให้ประเทศต่างๆ ร่วมกันกำหนดกรอบกำกับดูแล AI เพื่อให้เทคโนโลยีเดินหน้าโดยที่มนุษย์ยังสามารถควบคุมทิศทางและความเสี่ยงได้