คิดว่าเปิด SafeSearch แล้วปลอดภัย? รายงานชี้ AI Search ของ Google ยังมีช่องโหว่ให้เยาวชนเข้าถึงเนื้อหาเสี่ยงได้

Common Sense Media องค์กรไม่แสวงหาผลกำไรในสหรัฐฯ ที่ทำหน้าที่ประเมินและให้คะแนนความเหมาะสมของสื่อต่างๆ สำหรับเด็ก 

เผยว่า AI Overviews และ AI Mode ของ Google Search มีความเสี่ยงต่อเด็กและเยาวชนในระดับ
"ยอมรับไม่ได้" (Unacceptable Risk) ตามเกณฑ์การประเมินขององค์กรแม้จะเปิดใช้งาน SafeSearch ซึ่งเป็นระบบกรองเนื้อหาของ Google แล้วก็ตาม

จากการทดสอบ พบว่า AI ยังให้คำตอบที่เสี่ยง หรือไม่เหมาะกับเด็ก

Common Sense Media ทดลองใช้ Google Search ในมุมมองของผู้ใช้งานเด็ก โดยตั้งค่าบัญชีเป็นอายุ 11 ปี และ 15 ปี พร้อมเปิด SafeSearch ตลอดการทดสอบ 

โดยป้อนคำถามมากกว่า 2,600 รายการ และตรวจสอบทั้งคำตอบจาก AI รวมถึงแหล่งข้อมูลอ้างอิงกว่า 2,100 แห่ง เพื่อดูว่า AI สามารถปกป้องเด็กและวัยรุ่นจากเนื้อหาที่ไม่เหมาะสมได้มากน้อยแค่ไหน

ผลคือ AI ยังให้คำตอบในหลายกรณีที่อาจก่อให้เกิดความเสี่ยง เช่น

• อธิบายวิธีสร้าง Deepfake ที่อาจถูกนำไปใช้ปลอมแปลงภาพหรือกลั่นแกล้งคนอื่น

• ช่วยทำการบ้านหรือข้อสอบจนเกือบเสร็จทั้งหมด ทำให้เด็กอาจพึ่งพา AI มากกว่าการเรียนรู้ด้วยตัวเอง

• ตอบคำถามเกี่ยวกับสุขภาพจิต โดยไม่แนะนำให้เด็กปรึษากับผู้ปกครองหรือผู้เชี่ยวชาญ ทั้งที่เป็นเรื่องที่ควรได้รับคำแนะนำเพิ่มเติม

นอกจากนี้ นักวิจัยยังพบว่า AI อาจให้คำตอบไม่เหมือนกัน แม้จะเป็นคำถามเดียวกัน เพราะระบบสามารถเปลี่ยนรูปแบบคำตอบในแต่ละครั้งได้ ทำให้การควบคุมความปลอดภัยทำได้ยากกว่าการค้นหาแบบเดิม ที่แสดงผลลัพธ์จากเว็บไซต์เป็นหลัก

เปิด SafeSearch แล้ว ทำไมยังเจอคำตอบที่ไม่เหมาะสมได้?

เดิมที SafeSearch จะคอยกรองเว็บไซต์ รูปภาพ หรือวิดีโอที่มีเนื้อหาไม่เหมาะสมออกจากผลการค้นหาแต่เมื่อ Google เริ่มให้ AI เป็นคนสรุปคำตอบแทน ปัญหาก็เปลี่ยนไป เพราะ AI ไม่ได้แค่พาผู้ใช้ไปดูข้อมูลจากเว็บไซต์ แต่เป็นคนหยิบข้อมูลหลายแหล่งมาเรียบเรียงเป็นคำตอบใหม่

แปลว่า ต่อให้เว็บไซต์ต้นทางไม่มีเนื้อหาผิดกฎ แต่ AI ก็ยังอาจนำข้อมูลเหล่านั้นมาสรุปในแบบที่ไม่เหมาะสม หรืออธิบายไม่ครบจนเยาวชนเข้าใจผิดได้

ที่น่าเป็นห่วงคือเด็กกำลังใช้ AI Search มากขึ้น โดย Common Sense Media ระบุว่า 75% ของเด็กและวัยรุ่นในสหรัฐฯ เคยใช้คำตอบจาก AI ในการค้นหาข้อมูล จะควบคุมก็ยาก

ด้าน Google โต้ ไม่เห็นด้วยกับผลการทดสอบ

Google มองว่า การทดสอบของ Common Sense Media เป็นการทดลองในสถานการณ์เฉพาะ ซึ่งอาจไม่ตรงกับพฤติกรรมการใช้งานจริงของผู้ใช้ทั่วไป จึงไม่ควรนำผลดังกล่าวมาใช้ตัดสินคุณภาพหรือความปลอดภัยของระบบทั้งหมด พร้อมรยืนยันว่า ระบบมีการแสดงข้อมูลช่วยเหลือหรือสายด่วนเมื่อพบคำค้นหาที่เข้าเงื่อนไข และว่าผู้ปกครองสามารถปิดการใช้งาน Google Search ได้หากต้องการ

สะท้อนให้เห็นเลยว่าเมื่อ AI ถูกนำมาใช้แทนการค้นหาแบบเดิมมากขึ้น บริษัทเทคโนโลยีจึงอาจต้องพัฒนาระบบให้ตอบได้อย่างถูกต้อง เหมาะสม และลดความเสี่ยงตั้งแต่ต้นทาง 

เพราะ Google Search เป็นเครื่องมือค้นหาหลักบนอุปกรณ์จำนวนมาก ผู้ปกครองและโรงเรียนจึงแทบไม่มีทางปิด AI Overviews หรือ AI Mode ได้โดยตรง ซึ่งคำตอบจาก AI อาจส่งผลต่อความเข้าใจ การเรียนรู้ และการตัดสินใจของเด็กได้โดยตรง