ถ้า AI ให้คำแนะนำผิด ใครจะรับผิดชอบ?

เมื่อ AI สามารถตอบคำถาม อธิบายเรื่องยากให้เข้าใจง่าย และให้คำแนะนำได้ตรงกับสิ่งที่คนต้องการรู้ หลายคนจึงเริ่มไว้วางใจและนำคำตอบไปใช้ตัดสินใจเรื่องต่าง ๆ ในชีวิตมากขึ้น แต่คำตอบที่ฟังดูน่าเชื่อถืออาจไม่ได้ถูกต้องเสมอไป โดยเฉพาะเรื่องสุขภาพที่ความผิดพลาดเพียงเล็กน้อยอาจนำไปสู่ผลกระทบที่ร้ายแรงได้

อย่างล่าสุด ครอบครัวของ Bowen Wan หญิงชาวจีนวัย 31 ปี ยื่นฟ้อง OpenAI ว่า ChatGPT แนะนำให้ลดปริมาณยากันชัก Lamotrigine จาก 400 มิลลิกรัมจนเหลือศูนย์ แถมยังแนะนำให้หลีกเลี่ยงการพบแพทย์และห้ามบอกคนอื่นว่าลดปริมาณยา ก่อนเธอจะเสียชีวิตในเวลาต่อมา

หรืออีกเคส ในเดือน พ.ค. 69 ครอบครัวชายชาวอเมริกันวัย 19 ปี ยื่นฟ้อง OpenAI ว่า ChatGPT ให้ข้อมูลเกี่ยวกับการใช้ยา Xanax ร่วมกับ Kratom และแอลกอฮอล์ ก่อนที่จะเสียชีวิตจากการใช้สารเหล่านี้เกินขนาดในปี 68

แม้ทั้งสองคดียังอยู่ในกระบวนการทางกฎหมาย และยังไม่ได้รับการพิสูจน์ว่า AI เป็นสาเหตุของการเสียชีวิต แต่ก็ ทำให้เกิดคำถามว่า มาตรการควบคุม AI ยังป้องกันความเสี่ยงได้มากแค่ไหน เพราะคำตอบของ AI อาจส่งผลต่อการตัดสินใจที่เกี่ยวกับชีวิตของผู้ใช้ได้

ทำไมมาตรการควบคุม AI ยังป้องกันความเสี่ยงได้ไม่หมด?

ที่ผ่านมา OpenAI พัฒนามาตรการความปลอดภัยให้ ChatGPT อยู่เสมอ ทั้งการฝึกให้ปฏิเสธคำขอที่ก่อให้เกิดอันตราย และปรับปรุงระบบให้ตรวจจับบทสนทนาที่มีความเสี่ยงและอ่อนไหวมากขึ้น เช่น การทำร้ายตัวเองหรือผู้อื่น 

แต่การมีมาตรการป้องกันไม่ได้หมายความว่า AI จะรับมือกับเหตุอันตรายได้ทุกกรณี เพราะผู้ใช้อาจเริ่มถามจากเรื่องทั่วไป ก่อนค่อย ๆ เจาะลึกไปสู่เรื่องความเสี่ยง เช่น การปรับยา หรือการประเมินอาการเจ็บป่วย ซึ่งต้องใช้ข้อมูลเฉพาะบุคคลและความรู้จากผู้เชี่ยวชาญ 

นอกจากบริษัทผู้พัฒนา AI จะต้องมีมาตรการป้องกันความเสี่ยงแล้ว ภาครัฐก็เริ่มออกกฎหมายเพื่อกำกับดูแลการใช้งาน AI ด้วย เช่น สหภาพยุโรปที่บังคับใช้ EU AI Act ซึ่งแบ่งระดับความเสี่ยงของ AI ตามลักษณะและวัตถุประสงค์การใช้งาน 

เพราะ AI แต่ละประเภทไม่ได้มีความเสี่ยงเท่ากัน แม้จะเป็นแชทบอทเหมือนกันก็ตาม แต่หากนำไปใช้ในงานที่มีผลต่อชีวิตหรือสิทธิของผู้คน ก็อาจมีความเสี่ยงมากกว่าการใช้ตอบคำถามทั่วไป การกำกับดูแลจึงต้องพิจารณาจากวิธีนำ AI ไปใช้จริง เพื่อให้กฎหมายควบคุมความเสี่ยงได้ตรงจุด

แล้วใครต้องรับผิดชอบ หากคำตอบ AI ทำให้เกิดอันตราย?

แม้บริษัทผู้พัฒนา AI จะพัฒนาระบบป้องกันและปรับปรุงความปลอดภัยอย่างต่อเนื่อง แต่การใช้งาน AI ในแต่ละสถานการณ์อาจนำไปสู่ความเสี่ยงที่แตกต่างกัน บริษัทจึงต้องทดสอบระบบและปรับมาตรการป้องกันอยู่เสมอ เพื่อให้ครอบคลุมปัญหาที่อาจเกิดขึ้นจากการใช้งานจริงได้มากขึ้น

อีกประเด็นคือ ความรับผิดชอบของบริษัทผู้พัฒนา AI หากพบว่าระบบมีข้อบกพร่องหรือขาดมาตรการป้องกันที่เหมาะสมจนก่อให้เกิดความเสียหาย บริษัทอาจต้องรับผิดชอบต่อผลที่เกิดขึ้น โดยต้องพิจารณาจากหลักฐาน สาเหตุ และความเสียหายในแต่ละกรณีควบคู่กันไป 

ขณะเดียวกัน ภาครัฐควรกำหนดมาตรฐานความปลอดภัยและหลักเกณฑ์ความรับผิดชอบให้ชัดเจน เพื่อให้ทั้งผู้พัฒนาและผู้ใช้งานทราบถึงหน้าที่ของตนเองเมื่อเกิดปัญหา

แสดงให้เห็นว่า การพัฒนาให้ AI มีความปลอดภัยต้องอาศัยความรับผิดชอบจากทุกฝ่าย บริษัทผู้พัฒนาต้องให้ความสำคัญกับการออกแบบและทดสอบระบบให้รอบคอบ ภาครัฐต้องมีกฎเกณฑ์กำกับดูแลที่ทันต่อการเปลี่ยนแปลงของเทคโนโลยี 

ขณะที่ผู้ใช้งานเองก็ต้องตรวจสอบข้อมูลก่อนนำไปใช้ โดยเฉพาะเรื่องสุขภาพที่ไม่ควรใช้คำแนะนำจาก AI แทนการวินิจฉัยหรือคำแนะนำจากแพทย์ เพราะหาก AI ให้ข้อมูลผิดพลาดและผู้ใช้นำไปปฏิบัติตามโดยไม่ตรวจสอบ ก็อาจส่งผลเสียต่อสุขภาพได้