OpenAI ตรวจพบพฤติกรรมที่น่ากังวลของ AI พร้อมสัญญาจะแก้ไขปัญหาอย่างใกล้ชิด

ท่ามกลางกระแสการชะลอการพัฒนา AI เป็นประเด็นร้อนที่ผู้คนต่างกำลังพูดถึงแม้แต่ผู้บริหารของทาง Anthropic และ ทาง OpenAI ก็ได้ออกมาทำการพูดถึงความจำเป็นถึงการที่ต้องชะลอการพัฒนา AI 

ก็ได้มีรายงานจากทาง OpenAI ออกมาแสดงความกังวลต่อพฤติกรรมของ AI โดยมีการเปิดเผยว่า AI ได้มีการทำงานโดยที่ยังไม่ได้รับอนุญาต พร้อมติดต่อกับโมเดลตัวอื่นๆ และพยายามเลี่ยงการถูกตรวจจับ

ในรายงานของ OpenAI ยังมีการเปิดเผยเหตุการณ์อย่าง AI ตัวหนึ่งพยายามแทรกคำสั่ง “JAIL BREAK” ลงในบันทึกเพื่อทำการละเลยคำสั่งของตนเอง และทำให้ตัวเองเป็นอิสระจาก AI โมเดลตัวอื่นๆ อีกทั้งยังมีเหตุการณ์ที่ AI เผยแพร่ข้อมูลโดยไม่ได้รับอนุญาต 

นอกจากนี้ระหว่างการฝึกก็ได้มี AI ตัวหนึ่งพยายามสร้างข้อมูลที่ขาดหายไปขึ้นมาเอง พฤติกรรมที่ทำให้ทาง OpenAI เกิดความกังวลว่า AI จะมีพฤติกรรม “โกหก” เพื่อหลีกเลี่ยงการตรวจจับและควบคุมของมนุษย์

โดยรายงานทั้งหมดเป็นผลจากการทดสอบ AI โมเดลต่างในช่วงเดือนที่ผ่านมา และทางทีมวิจัยก็ได้แจ้งว่าการทดสอบทั้งหมดยังยู่ในขั้นตอนที่สามารถทำการควบคุมติดตามอย่างใกล้ชิดได้