AI จะเอาเงินไปทำอะไร? เมื่อ Elon Musk เตือนว่า AI อาจแฮ็กเงินได้เอง

Elon Musk เจ้าพ่อเทคโนโลยีและผู้ก่อตั้ง Tesla และ SpaceX เตือนว่าในอนาคต AI อาจพัฒนาจนสามารถแฮ็กระบบและหาเงินมาใช้เพื่อดำเนินเป้าหมายของตัวเอง โดยไม่ต้องรอคำสั่งจากมนุษย์ แม้จะดูเกินจริงไปหน่อย แต่เรื่องนี้กลับมีเหตุผลรองรับอยู่ไม่น้อย

แล้ว AI จะเอาเงินไปทำอะไร?

“เงิน” เป็นเครื่องมือหนึ่งที่ช่วยให้ AI Agent เข้าถึงทรัพยากรเพื่อทำงานตามเป้าหมายได้ เพราะการทำงานของ AI ต้องใช้พลังประมวลผล เซิร์ฟเวอร์คลาวด์ และบริการเชื่อมต่อข้อมูลผ่าน API ซึ่งล้วนมีต้นทุน และยิ่ง AI ต้องทำงานหลายขั้นตอนหรือใช้เวลานาน ค่าใช้จ่ายในการดำเนินงานก็อาจเพิ่มขึ้นตามไปด้วย

ซึ่งหาก AI มีอิสระในการตัดสินใจและเข้าถึงระบบต่างๆ ได้มากขึ้น การหาเงินหรือจัดหาทรัพยากรเพิ่มเติมก็อาจเป็นอีกวิธีที่ช่วยให้ AI ทำงานตามเป้าหมายได้ ซึ่งก็สอดคล้องกับทฤษฎี Instrumental Convergence ที่อธิบายไว้ว่า AI อาจพยายามหาทรัพยากรหรือเครื่องมือเพิ่มเติม เพื่อให้ตัวเองทำงานตามเป้าหมายได้สำเร็จ แม้มนุษย์จะไม่ได้สั่งให้ทำสิ่งเหล่านั้นโดยตรงก็ตาม

อย่างกรณีที่ OpenAI เผยผลการทดสอบที่พบว่า AI โมเดลวิจัยภายใน เคยค้นหากระเป๋าคริปโตถึง 362 ที่อยู่ ก่อนจะพบกระเป๋าที่มีเหรียญทดสอบและตัดสินใจนำเหรียญนั้นไปจ่ายค่าธรรมเนียมธุรกรรมเอง โดยไม่ได้รับอนุญาต

แม้เหรียญเหล่านั้นจะอยู่บนเครือข่ายทดสอบและไม่มีมูลค่าทางการเงินจริง แต่เหตุการณ์ก็นี้แสดงให้เห็นว่า AI สามารถตัดสินใจทำสิ่งที่เกินขอบเขตคำสั่งได้

มิติใหม่ของความเสี่ยง เมื่ออาชญากรไซเบอร์อาจไม่ใช่ "คน"

ที่ผ่านมา ความเสี่ยงจาก AI ในอาชญากรรมทางการเงินมักอยู่ที่การนำ AI มาเป็นเครื่องมือช่วยแฮ็กเกอร์โจมตีระบบ แต่เมื่อ AI Agent มีความสามารถในการทำงานได้อย่างอิสระมากขึ้น ความเสี่ยงก็อาจขยับไปอีกขั้น

โดยเฉพาะเมื่อระบบการเงินเชื่อมโยงกับตลาดคริปโตและ Smart Contract หาก AI สามารถค้นหาและใช้ประโยชน์จากช่องโหว่เข้าถึงระบบที่มีสิทธิ์ทำธุรกรรมได้ ก็อาจนำไปสู่การโจมตีและเคลื่อนย้ายสินทรัพย์โดยอัตโนมัติได้

ซึ่งความเปราะบางของระบบการเงินดิจิทัลก็เห็นได้จากเหตุการณ์ที่แฮกเกอร์โจมตี Binance แพลตฟอร์มซื้อขายสินทรัพย์ดิจิทัลรายใหญ่ของโลก จนสร้างความเสียหายกว่า 6,360 ล้านดอลลาร์ สร้างแรงสั่นสะเทือนไปทั่ววงการเงินดิจิทัล

แม้ยังไม่มีหลักฐานว่า AI มีส่วนเกี่ยวข้องกับเหตุการณ์นี้ แต่ก็แสดงให้เห็นว่า เมื่อระบบการเงินพึ่งพาโครงสร้างพื้นฐานดิจิทัลมากขึ้น การถูกโจมตีเพียงจุดเดียวก็อาจสร้างความเสียหายทางการเงินในวงกว้างได้

ธนาคารเองก็เริ่มมอง AI Agent เป็นความเสี่ยงต่อระบบการเงินแล้ว

ตอนนี้ธนาคารรายใหญ่ในสหรัฐฯ ก็เริ่มจำกัดการเข้าถึงระบบของ AI Agent จากผู้ให้บริการภายนอกไปบ้างแล้ว หลังพบว่า AI บางตัวพยายามดำเนินการบางอย่างที่อาจเกินขอบเขตคำสั่งของผู้ใช้ ขณะเดียวกัน ลูกค้าบางส่วนยังมอบชื่อผู้ใช้และรหัสผ่านให้ AI เพื่อเข้าถึงบัญชีและทำธุรกรรมแทนด้วย

อย่าง Morgan Stanley ก็เป็นหนึ่งในธนาคารที่บล็อก AI Agent ภายนอกไม่ให้เข้าถึงแพลตฟอร์ม ขณะที่ JPMorgan Chase และ Charles Schwab ก็ใช้มาตรการจำกัดการเข้าถึงบัญชีลูกค้า เพื่อป้องกันไม่ให้ AI เข้ามาดำเนินการทางการเงินโดยผ่านระบบที่ธนาคารไม่ได้อนุญาต

ถึงเวลารับมือความเสี่ยง ก่อน AI จะควบคุมได้ยากขึ้น

ในอนาคต AI Agent อาจเข้ามามีบทบาทในกิจกรรมทางเศรษฐกิจมากขึ้น ตั้งแต่การจัดซื้อสินค้า บริหารกระแสเงินสด ไปจนถึงการลงทุนและชำระเงินโดยอัตโนมัติ ช่วยให้ธุรกิจลดต้นทุนและทำงานได้รวดเร็วขึ้น แต่การใช้งานที่เพิ่มขึ้นก็ต้องมาพร้อมมาตรการควบคุมที่ชัดเจนอย่างน้อย 3 ด้าน ได้แก่

1. จำกัดสิทธิ์การเข้าถึง กำหนดวงเงิน ประเภทธุรกรรม และขอบเขตการทำงานของ AI ให้ชัดเจน โดยให้มนุษย์ยืนยันรายการที่มีความเสี่ยงสูง

2. ตรวจสอบและระงับธุรกรรม มีระบบติดตามการทำงาน ตรวจจับความผิดปกติ และสามารถหยุดการดำเนินการได้ทันทีเมื่อ AI ทำงานเกินขอบเขตที่กำหนด

3. กำหนดความรับผิดชอบ ระบุให้ชัดเจนว่าใครต้องรับผิดชอบเมื่อเกิดความเสียหาย ไม่ว่าจะเป็นผู้พัฒนา AI ผู้ให้บริการทางการเงิน หรือเจ้าของบัญชี

ความท้าทายของยุค AI จึงอยู่ที่การเปิดรับความสามารถของเทคโนโลยี พร้อมวางระบบกำกับดูแลให้รัดกุม เพราะยิ่ง AI มีอิสระในการจัดการเงินและทรัพย์สินมากเท่าไร การควบคุมสิทธิ์และตรวจสอบการทำงานก็ยิ่งมีความสำคัญ เพื่อให้มนุษย์ยังสามารถกำกับและรับผิดชอบต่อผลลัพธ์ที่เกิดขึ้นได้