ถอดบทเรียนคดี Uber เมื่อการตัดสินใจของ AI ทำคนเดือดร้อน

ปัจจุบัน หลายองค์กรเริ่มนำ AI เข้ามาช่วยลดภาระและเพิ่มประสิทธิภาพในการทำงาน แต่ถ้าบริษัทใช้ AI ตัดสินใจเรื่องสำคัญจนกระทบสิทธิของคนล่ะ?

หน่วยงานคุ้มครองข้อมูลส่วนบุคคลของเนเธอร์แลนด์ พึ่งสั่งปรับ Uber สูงถึง 825 ล้านยูโร หลังพบว่าบริษัท ใช้ระบบอัตโนมัติในการตัดสินใจระงับบัญชีคนขับ โดยไม่แจ้งคนขับให้ชัดเจนว่าระบบใช้ข้อมูลอะไรในการตัดสินใจ และบางกรณี ก็ไม่มีเจ้าหน้าที่ตรวจสอบก่อนตัดสินใจ ส่งผลกระทบโดยตรงต่อ งานและรายได้ของคนขับ

⚫ เมื่อระบบไม่ได้แค่ช่วย แต่กลายเป็นคนตัดสิน?

โดยปกติแล้ว Uber ใช้ระบบอัตโนมัติตรวจจับพฤติกรรมที่บริษัทมองว่าน่าสงสัย เช่น ขับรถอ้อมเพื่อเพิ่มค่าโดยสาร หรือรับงานแล้วไม่ไปรับผู้โดยสาร หรือแม้แต่คนขับที่มีคะแนนรีวิวต่ำต่อเนื่องถูกข้อมูลเหล่านี้จะถูกนำมาประเมิน และอาจนำไปสู่การระงับบัญชี โดยไม่มีมนุษย์เข้ามาตรวจสอบ

ซึ่งขัดต่อหลัก GDPR ของยุโรป ที่กำหนดว่าคนที่ได้รับผลกระทบจากการตัดสินใจของระบบ ควรมีสิทธิ ได้รับคำอธิบาย คัดค้าน และขอให้มนุษย์เข้ามาทบทวนการตัดสินใจ โดยเฉพาะเมื่อการตัดสินใจนั้นกระทบต่อชีวิตหรือการทำงาน

โดยค่าปรับครั้งนี้ถือเป็นค่าปรับตาม GDPR ที่ใหญ่เป็นอันดับ 2 เท่าที่เคยมีมา รองจากค่าปรับ 1.2 พันล้านยูโรที่ไอร์แลนด์เคยสั่ง Meta จากกรณีโอนข้อมูลผู้ใช้ Facebook ไปยังสหรัฐฯ

มองเผินๆ เรื่องนี้อาจดูเหมือนเป็นแค่ปัญหาของ Uber แต่จริงๆ แล้วกำลังสะท้อนปัญหาที่ใหญ่กว่านั้น เพราะทุกวันนี้หลายบริษัท เริ่มใช้ AI เข้ามาตัดสินใจเรื่องสำคัญที่กระทบทั้งงาน รายได้ และชีวิตของคน มากขึ้น 

ที่น่าคิดคือ เราควรให้ระบบอัตโนมัติมีอำนาจตัดสินใจเรื่องสำคัญที่กระทบชีวิตคนมากแค่ไหน โดยเฉพาะเมื่อ AI เองก็อาจมี Bias จากข้อมูลที่ใช้ฝึก และนำอคตินั้นไปสู่การตัดสินใจจริง

⚫ กรณีศึกษาจากเหตุ “toeslagenaffaire” ในเนเธอร์แลนด์

ก่อนหน้านี้ หน่วยงานที่ดูแลคดี Uber เนเธอร์แลนด์ เคยตรวจสอบ toeslagenaffaire หรือวิกฤตเงินอุดหนุนเลี้ยงดูบุตรครั้งใหญ่ของประเทศมาก่อน

ช่วงปี 2013–2019 กรมสรรพากรเนเธอร์แลนด์ ใช้ระบบอัลกอริทึมคัดกรองครอบครัวที่อาจทุจริต โดยตัวแปรที่ใช้คัดกรองในระบบมีปัญหาเรื่องการเลือกปฏิบัติ เช่น การมีสองสัญชาติและรายได้ต่ำ จนทำให้บางกลุ่มถูกตรวจสอบเข้มกว่าคนอื่น และนำไปสู่การเลือกปฏิบัติ

ทำให้กว่า 26,000 ครอบครัว ถูกเรียกเงินอุดหนุนคืน หลายครอบครัวถึงขั้นล้มละลาย วิกฤตครั้งนั้นจึงกลายเป็นเรื่องอื้อฉาวระดับประเทศ และรุนแรงถึงขั้นทำให้รัฐบาลของ Mark Rutte ลาออกทั้งคณะในปี 2021

ฝั่งออสเตรเลียก็เคยเกิดกรณี Robodebt ที่รัฐบาลใช้ระบบอัตโนมัติที่ตรวจจับการรับสวัสดิการผิดปกติและเรียกเงินคืนจากประชาชนหลายแสนคน ทั้งที่คำนวณผิดพลาด จนสร้างความเสียหายเกือบ 1,000 ล้านดอลลาร์ออสเตรเลีย

ทั้งสามกรณีมีปัญหาคล้ายกัน คือการปล่อยให้ระบบอัตโนมัติตัดสินใจเรื่องสำคัญ และไม่มีคนคอยตรวจสอบอย่างเพียงพอ ทำให้ความผิดพลาดของระบบส่งผลกระทบต่อชีวิตคน

⚫ แม้จะมีมนุษย์ตรวจสอบ ก็ไม่ได้หมายความว่าจะไม่เกิดปัญหานี้?

หากการที่หลายบริษัทใช้ระบบอัตโนมัติในการตัดสินใจ แล้วให้มนุษย์แค่กดอนุมัติตามระบบ ก็อาจพูดไม่ได้เต็มปากว่ามีคนคอยตรวจสอบระบบจริงๆ

ซึ่งสอดคล้องกับผลการทดลองของมหาวิทยาลัยวอชิงตัน (University of Washington) ที่พบว่า โมเดล AI ชั้นนำหลายตัว มีแนวโน้มจัดอันดับเรซูเม่แตกต่างกันตามชื่อที่บ่งบอกเชื้อชาติและเพศ แม้เนื้อหาของเรซูเม่จะเหมือนกัน ทว่า ชื่อที่สื่อว่าเป็นผู้ชายผิวขาว มักได้รับการจัดอันดับสูงกว่า แต่กลับกัน ชื่อที่สื่อว่าเป็นผู้หญิง หรือผู้สมัครผิวดำมักถูกจัดอันดับต่ำกว่า

นอกจากนี้ นักวิจัยยังพบอีกว่า เมื่อ AI แนะนำให้เลือกหรือไม่เลือกผู้สมัคร ผู้คัดเลือกที่เป็นมนุษย์ ก็มักตัดสินใจตามคำแนะนำของ AI แม้ว่าคำแนะนำนั้นจะมีอคติก็ตาม

ทำให้เห็นเลยว่า แม้จะมีมนุษย์เป็นผู้ตัดสินใจในขั้นสุดท้าย ก็ไม่ได้หมายความว่าจะช่วยแก้ปัญหาอคติของ AI ได้เสมอไป เพราะคนเราก็มีแนวโน้มเชื่อคำแนะนำของระบบโดยไม่รู้ตัว ภาวะนี้มีชื่อว่า  “Automation bias” หรือการเชื่อคำแนะนำจากระบบอัตโนมัติมากเกินไปจนไม่ตรวจสอบให้รอบคอบ 

⚫ AI ช่วยตัดสินใจได้ แต่ “ไม่ควรตัดสินแทนมนุษย์”

หากนำ AI หรือระบบอัตโนมัติมาใช้ตัดสินใจเรื่องสำคัญ ไม่ควรปล่อยให้ระบบเป็นคนตัดสินใจทั้งหมดโดยลำพัง เพราะความผิดพลาดหรืออคติของระบบอาจส่งผลกระทบโดยตรงต่อสิทธิ งาน และรายได้ของคนได้

จึงจำเป็นต้องมีมนุษย์อยู่ในกระบวนการเสมอ และต้องสามารถตรวจสอบและแย้งการตัดสินใจของ AI ได้ เช่น รู้ว่า AI ใช้ข้อมูลอะไรในการตัดสินใจ อธิบายเหตุผลก่อนอนุมัติ และมีคนตรวจสอบเป็นพิเศษในกรณีที่มีความเสี่ยงสูง

แนวคิดนี้ปรากฏอยู่ในกฎหมาย Platform Work Directive ของสหภาพยุโรป ที่กำหนดว่าการตัดสินใจของระบบอัตโนมัติ ต้องยังมีคนคอยตรวจสอบ และคนต้องสามารถยกเลิกคำตัดสินของระบบได้ นอกจากนี้ คนที่ทำหน้าที่ตรวจสอบต้องได้รับการฝึกอบรม และไม่ควรถูกลงโทษหากตัดสินใจไม่ทำตามระบบ ซึ่งประเทศสมาชิกต้องนำไปบังคับใช้ภายในเดือน ธ.ค. 2026