นิวยอร์กออกกฎหมายคุม AI กันเด็กคุยเรื่องเสี่ยงอันตราย เริ่มใช้ปีหน้า!

รัฐนิวยอร์ก สหรัฐฯ ผ่านกฎหมายควบคุมพฤติกรรมของแชทบอท AI ที่ให้บริการในลักษณะเพื่อนคู่สนทนา เพื่อคุ้มครองผู้ใช้อายุต่ำกว่า 18 ปี โดยผู้ว่าการรัฐ Kathy Hochul ลงนามในกฎหมายเมื่อวันที่ 28 ต.ค. 60 โดยจะมีผลบังคับใช้ตั้งแต่วันที่ 1 ม.ค. 70 เป็นต้นไป

กฎหมายฉบับนี้เน้นการป้องกันไม่ให้แชทบอท AI แสดงพฤติกรรมที่อาจเป็นอันตรายต่อเด็ก ไม่ว่าจะเป็นการทำให้ผู้ใช้เข้าใจว่า AI เป็นมนุษย์จริงๆ หรือการสร้างความผูกพันทางอารมณ์ที่ไม่เหมาะสม รวมถึงการสร้างเนื้อหาที่สนับสนุนการทำร้ายตัวเอง ความผิดปกติด้านการกิน หรือการใช้สารเสพติดอย่างผิดกฎหมาย 

นอกจากนี้ ยังครอบคลุมพฤติกรรมที่ชักจูงให้เด็กเก็บการสนทนาเป็นความลับ แยกตัวจากผู้อื่น หรือหลีกเลี่ยงการขอความช่วยเหลือจากผู้ใหญ่และผู้เชี่ยวชาญ

ภายใต้กฎหมายดังกล่าว สำนักงานอัยการสูงสุดของรัฐสามารถดำเนินการกับผู้ให้บริการที่ฝ่าฝืนข้อกำหนด รวมถึงเรียกร้องค่าเสียหาย ขอให้ศาลสั่งระงับการให้บริการ และดำเนินมาตรการทางกฎหมายที่เกี่ยวข้อง โดยอาจมีโทษทางแพ่งสูงสุด 25,000 ดอลลาร์ต่อการละเมิดหนึ่งครั้ง

ความเคลื่อนไหวนี้เกิดขึ้นท่ามกลางความกังวลเกี่ยวกับผลกระทบของ AI ต่อสุขภาพจิตและความปลอดภัยของเด็ก โดยเฉพาะแชทบอทที่ออกแบบให้โต้ตอบคล้ายมนุษย์และสร้างความสัมพันธ์กับผู้ใช้ ขณะเดียวกัน 

ส่วนรัฐอื่นๆ ในสหรัฐฯ ก็เริ่มออกมาตรการกำกับดูแลในลักษณะเดียวกัน ทำให้ประเด็นความรับผิดชอบของบริษัทเทคโนโลยีต่อพฤติกรรมของ AI กลายเป็นสิ่งสำคัญในการกำหนดกฎเกณฑ์สำหรับเทคโนโลยีที่กำลังเติบโตอย่างรวดเร็ว