AI โกหกได้จริงไหม? รู้จัก AI Hallucination พร้อมบอกวิธีสังเกตก่อนใช้งาน

มีเหตุการณ์จริงเกิดขึ้นในศาลสหรัฐฯ เมื่อปี 2566

ทนายความคนหนึ่งยื่นเอกสารโต้แย้งคดีต่อผู้พิพากษา พร้อมอ้างอิงคำพิพากษาจากคดีก่อนหน้าถึง 6 คดี ฟังดูน่าเชื่อถือมาก ทั้งชื่อคดี ปี และรายละเอียดต่างๆ ดูสมเหตุสมผลครบถ้วน

แต่ปัญหาคือ คดีทั้ง 6 นั้น “ไม่มีอยู่จริง”

ภายหลังพบว่า ChatGPT เป็นผู้สร้างข้อมูลเหล่านั้นขึ้นมาทั้งหมด และทนายความไม่ได้ตรวจสอบข้อมูลก่อนนำไปใช้จริง จนสุดท้ายถูกเรียกขึ้นไต่สวนต่อหน้าสาธารณะ ถูกสั่งปรับ และกลายเป็นข่าวดังไปทั่วโลก

เรื่องนี้ไม่ได้เกิดขึ้นเพราะทนายความคนนั้นประมาท แต่เกิดจากธรรมชาติของ AI ที่สามารถตอบข้อมูลผิดได้อย่างมั่นใจ โดยแทบไม่มีสัญญาณเตือนว่าคำตอบนั้นอาจไม่จริง

ปรากฏการณ์นี้เรียกว่า “AI Hallucination” หรืออาการที่ AI สร้างข้อมูลขึ้นมาเอง ทั้งที่ข้อมูลนั้นไม่ถูกต้องหรือไม่มีอยู่จริง และสิ่งนี้สามารถเกิดขึ้นได้กับทุกคน ไม่ใช่แค่ในสายกฎหมาย แต่รวมถึงการเรียน การทำงาน การค้นข้อมูล หรือแม้แต่การใช้งานทั่วไปในชีวิตประจำวัน

บทความนี้ไม่ได้มีไว้ เพื่อบอกให้คุณเลิกใช้ AI แต่เพื่อช่วยให้เข้าใจว่า AI ทำงานอย่างไร มีข้อจำกัดตรงไหน และเราจะใช้งานมันอย่างรอบคอบและฉลาดขึ้นได้อย่างไร

⚫️ AI ไม่ได้ตั้งใจให้ข้อมูลผิด แค่มันแยกไม่ออกว่าสิ่งไหน “รู้จริง” หรือ “เดา”

ก่อนอื่นต้องเข้าใจก่อนว่า AI ไม่ได้ “โกหก” แบบที่มนุษย์โกหกกัน เพราะมันไม่มีเจตนาจะหลอกหรือแต่งเรื่องขึ้นมาเอง

เบื้องหลังการทำงานของ AI คือ การ “คาดเดาคำถัดไป” จากข้อมูลจำนวนมหาศาลที่มันเคยเรียนรู้ เปรียบง่ายๆ เหมือนคนที่อ่านหนังสือมาทั้งชีวิต แล้วถูกถามว่า “ประโยคนี้ควรต่อยังไง” AI จะพยายาม

ตอบในแบบที่ฟังดูสมเหตุสมผลและเป็นไปได้มากที่สุด แต่ไม่ได้แปลว่าคำตอบนั้นจะถูกต้องเสมอไป

สิ่งที่น่ากังวลคือ AI มักตอบด้วยความมั่นใจในระดับเดียวกัน ไม่ว่าจะเป็นข้อมูลที่ถูกต้อง หรือข้อมูลที่มัน “เดาขึ้นมา” เพราะมันไม่สามารถรับรู้ได้ว่าตัวเองกำลังไม่แน่ใจหรือไม่มีข้อมูลจริง

ปรากฏการณ์นี้ในวงการ AI เรียกว่า “Hallucination” หรืออาการที่ AI สร้างข้อมูลผิด หรือสร้างข้อมูลที่ไม่มีอยู่จริงขึ้นมา แต่ตอบออกมาอย่างน่าเชื่อถือมากจนคนใช้อาจไม่ทันสังเกต

⚫️ ใช้บ่อยแค่ไหน ก็ยังเจอได้

หลายคนอาจคิดว่า AI รุ่นใหม่อย่าง ChatGPT, Claude หรือ Gemini น่าจะแม่นยำขึ้นแล้ว ซึ่งก็จริงในหลายด้าน แต่ปัญหาในเรื่อง Hallucination นั้นยังไม่หายไป

งานวิจัยจาก Stanford RegLab ในปี 2024 ทดลองให้ AI ตอบคำถามด้านกฎหมายที่สามารถตรวจสอบข้อเท็จจริงได้ พบว่า LLM หลายรุ่นยังสร้างข้อมูลผิดหรืออ้างอิงคดีที่ไม่มีอยู่จริงในสัดส่วนที่สูงมาก บางระบบมีอัตราความผิดพลาดอยู่ในช่วงประมาณ 69–88% ของชุดทดสอบ

แม้ต่อมาจะมี AI ที่ออกแบบมาสำหรับงานกฎหมายโดยเฉพาะ งานวิจัยอีกชิ้นก็พบว่ายังเกิด Hallucination ได้อยู่ เพียงแต่อัตราลดลงจาก AI ทั่วไป

ตัวเลขเหล่านี้ไม่ได้หมายความว่า AI ใช้งานไม่ได้ แต่สะท้อนว่าในเรื่องที่ซับซ้อน หรือต้องการความแม่นยำสูง AI ก็ยังสามารถพลาดได้เสมอ และผู้ใช้ยังจำเป็นต้องตรวจสอบข้อมูลก่อนนำไปใช้งานจริง

🔴 4 สัญญาณที่บอกว่า AI อาจกำลัง "เดา"

แม้ AI จะตอบได้ลื่นและดูมั่นใจแค่ไหน แต่บางครั้งคำตอบนั้นอาจไม่ถูกต้อง ลองสังเกตสัญญาณเหล่านี้ไว้ก่อนเชื่อหรือแชร์ต่อ

▪️1. ให้ตัวเลขละเอียดเกินจริง

ถ้า AI ตอบด้วยตัวเลขที่เฉพาะเจาะจงมากผิดปกติ เช่น “ปี 2566 มีคนไทยใช้ AI จำนวน 14,732,891 คน”

ให้ลองตั้งข้อสงสัยไว้ก่อน เพราะข้อมูลสถิติจริงมักเป็น “ค่าประมาณ” และต้องมีแหล่งอ้างอิงชัดเจน ตัวเลขที่ดูเป๊ะเกินไป ทั้งที่ไม่มีที่มา อาจเป็นเพียงการคาดเดาของ AI

▪️2. อ้างอิงงานวิจัยหรือแหล่งข้อมูลที่ตรวจสอบไม่ได้

บางครั้ง AI อาจอ้างชื่อคน งานวิจัย หรือองค์กรที่ฟังดูน่าเชื่อถือมาก แต่เมื่อลองค้นต่อกลับไม่พบข้อมูลจริง

ถ้าเจอชื่อแปลกๆ หรือแหล่งอ้างอิงที่ไม่คุ้น ควรลองค้นหาเพิ่มเติมจาก Google หรือเว็บไซต์ทางการก่อน โดยเฉพาะถ้าเป็นข้อมูลสำคัญด้านสุขภาพ การเงิน หรือกฎหมาย

▪️3. ตอบอย่างมั่นใจ ทั้งที่เรื่องนั้นซับซ้อน

ในชีวิตจริง เรื่องที่ซับซ้อนมักไม่มีคำตอบเดียวเสมอ และผู้เชี่ยวชาญก็มักมีเงื่อนไขหรือข้อยกเว้นประกอบ

ถ้า AI ตอบเร็ว ตอบชัด และฟันธงทันทีในเรื่องที่ควรละเอียดอ่อนหรือมีหลายมุมมอง ก็ควรเผื่อใจไว้ว่าบางส่วนอาจเป็นการ “คาดเดาให้ฟังดูสมเหตุสมผล”

▪️4. คำตอบเปลี่ยนเมื่อถามซ้ำ

ลองถามคำถามเดิมอีกครั้งด้วยวิธีถามที่ต่างออกไป ถ้า AI ให้คำตอบไม่เหมือนเดิม ขัดแย้งกันเอง หรือเปลี่ยนรายละเอียดสำคัญไปมา นั่นอาจเป็นสัญญาณว่ามันไม่ได้มีข้อมูลที่แน่นอน แต่กำลังสร้างคำตอบจากความน่าจะเป็นในแต่ละครั้ง

⚫️ 4 วิธีเช็กข้อมูลจาก AI แบบง่ายๆ ที่ทำได้ทันที

▫️1. ลองค้นชื่อหรือข้อมูลที่ AI อ้างอิงอีกครั้ง

วิธีที่ง่ายและตรงที่สุดคือการนำชื่อคน ชื่อคดี ตัวเลข งานวิจัย หรือข้อมูลสำคัญที่ AI พูดถึง ไปค้นต่อใน Google หรือแหล่งข้อมูลที่น่าเชื่อถือ

ถ้าข้อมูลนั้นมีอยู่จริง มักจะต้องมีร่องรอยจากหลายแหล่ง แต่ถ้าค้นแล้วไม่เจอจากแหล่งที่น่าเชื่อถือเลย ก็ควรตั้งข้อสงสัยไว้ก่อนว่า AI อาจกำลัง “เดาขึ้นมา”

▫️. ถามต่อว่า “ข้อมูลนี้อ้างอิงจากไหน”

AI หลายระบบในปัจจุบันสามารถอธิบายที่มาของคำตอบได้มากขึ้น ลองถามต่อว่า

“ข้อมูลนี้มาจากแหล่งไหน” หรือ “มีหลักฐานหรือแหล่งอ้างอิงเพิ่มเติมไหม”

ถ้าคำตอบยังคลุมเครือ ไม่มีแหล่งข้อมูลชัดเจน หรือเปลี่ยนไปเรื่อยๆ เมื่อถามซ้ำ ก็อาจเป็นสัญญาณว่าข้อมูลนั้นไม่น่าเชื่อถือ

▫️3. บอก AI ว่า "ถ้าไม่รู้จริง บอกได้เลย"

การตั้งเงื่อนไขตั้งแต่ต้นสามารถช่วยลดโอกาสเกิด Hallucination ได้ เช่น

“ถ้าข้อมูลไหนไม่แน่ใจ หรือไม่มีข้อมูลชัดเจน ให้บอกตรงๆ ได้เลย ไม่ต้องคาดเดา”

แม้จะไม่ได้ป้องกันได้ 100% แต่หลายครั้ง AI จะตอบอย่างระมัดระวังมากขึ้น และลดการแต่งข้อมูลที่ไม่มีอยู่จริง

▫️4. เรื่องสำคัญ ควรตรวจสอบกับแหล่งข้อมูลหลักเสมอ

สำหรับข้อมูลที่เกี่ยวข้องกับสุขภาพ การเงิน กฎหมาย หรือการตัดสินใจสำคัญ ควรมอง AI เป็น “ผู้ช่วยค้นข้อมูล” มากกว่าแหล่งอ้างอิงสุดท้าย

หลังได้คำตอบจาก AI แล้ว ควรนำไปตรวจสอบต่อกับเว็บไซต์ทางการ ผู้เชี่ยวชาญ หรือแหล่งข้อมูลต้นทางอีกครั้ง เพื่อให้มั่นใจก่อนนำไปใช้งานจริง

⚫️ AI ยังมีประโยชน์มาก ถ้าใช้ให้เหมาะกับงาน

ทั้งหมดนี้ไม่ได้หมายความว่า AI เป็นสิ่งที่ไม่ดี แต่คือการเข้าใจว่า AI เหมาะกับงานแบบไหน และควรระวังเรื่องอะไร

AI เป็นเครื่องมือที่ช่วยสรุปข้อมูล คิดไอเดีย เขียนงาน หรือช่วยเริ่มต้นงานได้ดี และช่วยประหยัดเวลาได้มาก แต่สำหรับข้อมูลสำคัญ เช่น สุขภาพ การเงิน กฎหมาย หรือการตัดสินใจสำคัญ การตรวจสอบซ้ำยังจำเป็นเสมอ

แม้แต่ Dario Amodei  ผู้บริหารของ Anthropic บริษัทผู้อยู่เบื้องหลัง Claude  ยังเคยพูดถึงปัญหา Hallucination ว่าเป็นข้อจำกัดสำคัญของ AI เพราะบางครั้ง AI อาจตอบผิด แต่พูดด้วยความมั่นใจจนคนใช้อาจไม่ทันสังเกต

เพราะฉะนั้น การใช้ AI ที่ดีที่สุด ไม่ใช่เชื่อทุกคำตอบทันที แต่คือการใช้อย่างเข้าใจและตรวจสอบข้อมูลก่อนเสมอ

Tech Movement จะมีเรื่อง AI เทคโนโลยี และเครื่องมือดิจิทัลดีๆ มาแชร์กันอีกเรื่อยๆ ฝากติดตามไว้ได้เลย

ที่มา : hai.stanford.edu, arXiv:2405.20362, Techcrunch, Theguardian