ระบบคอมพิวเตอร์ที่มีข้อบกพร่องได้ก่อให้เกิดการพิพากษาผิดพลาดครั้งใหญ่ที่สุดครั้งหนึ่งในประวัติศาสตร์ของ สหราชอาณาจักร ซอฟต์แวร์ Horizon ที่พัฒนาโดยบริษัท Fujitsu ของ ญี่ปุ่น แสดงยอดเงินขาดดุลในสาขา Post Office อย่างผิดพลาดเป็นเวลากว่า 15 ปี สิ่งนี้นำไปสู่การดำเนินคดีกับพนักงานไปรษณีย์เกือบ 1,000 คนในข้อหาอาชญากรรมที่พวกเขาไม่ได้กระทำ โดยมีผู้เสียชีวิตด้วยการฆ่าตัวตายอย่างน้อย 13 คน
ไทม์ไลน์และขนาดของเหตุการณ์:
- ช่วงเวลา: ปี 1999-2015 (16 ปี)
- จำนวนการดำเนินคดีทั้งหมด: เกือบ 1,000 คน
- การฆ่าตัวตายที่ยืนยันแล้ว: 13 คน
- ผู้พิจารณาการฆ่าตัวตาย: อีก 59 คน
- ซอฟต์แวร์: ระบบ Horizon โดย Fujitsu (ดำเนินการมาแล้ว 25 ปี)
ข้อกังวลเรื่องการนำ AI มาใช้งานจุดประกายการถกเถียงในชุมชนเทคโนโลยี
เหตุการณ์เสื่อมเสียนี้ได้ก่อให้เกิดความกังวลอย่างจริงจังเกี่ยวกับการนำระบบอัตโนมัติมาใช้ในพื้นที่สำคัญโดยไม่มีการกำกับดูแลที่เหมาะสม ผู้เชี่ยวชาญด้านเทคโนโลยีกังวลเป็นพิเศษเกี่ยวกับการรีบนำ AI มาใช้ในระบบรัฐบาลและระบบยุติธรรม ความกลัวคือระบบ AI อาจผลิตข้อกล่าวหาเท็จเรื่องการฉ้อโกงหรืออาชญากรรมอื่นๆ เป็นจำนวนมาก นำไปสู่การดำเนินคดีผิดพลาดในระดับที่ใหญ่กว่าเดิม
นี่คือสิ่งที่ผมกังวลมากเกี่ยวกับ AI ในรัฐบาล ระบบเหล่านั้นอาจสร้างข้อกล่าวหาเรื่องการฉ้อโกงหรืออาชญากรรมอื่นที่ต้องรับโทษเป็นจำนวนมาก แล้วระบบยุติธรรมก็ทำในสิ่งที่มันทำโดยการขู่ด้วยโทษที่รุนแรงเกินเหตุเพื่อบังคับให้ยอมรับข้อกล่าวหา
แนวโน้มของระบบยุติธรรมที่กดดันจำเลยให้ยอมรับข้อกล่าวหาทำให้ปัญหานี้แย่ลง เมื่อเผชิญกับการขู่ด้วยโทษหนัก คนบริสุทธิ์มักจะยอมรับความผิดแทนที่จะต่อสู้กับข้อกล่าวหาในศาล แม้ว่าหลักฐานที่ใช้กล่าวหาพวกเขาจะมีข้อบกพร่องก็ตาม
ความล้มเหลวเชิงระบบในความรับผิดชอบขององค์กร
ขนาดของหายนะครั้งนี้ทำให้เกิดคำถามเกี่ยวกับวิธีที่องค์กรจัดการกับปัญหาภายใน การตัดสินผิดพลาดเกือบ 1,000 คดีเกิดขึ้นเป็นเวลา 16 ปีโดยไม่ได้กระตุ้นให้เกิดการสอบสวนที่เหมาะสม หลายคนภายใน Post Office และ Fujitsu น่าจะรู้ว่ามีบางอย่างผิดปกติแต่ไม่ได้พูดออกมา
วัฒนธรรมองค์กรมักจะไม่สนับสนุนการแจ้งเบาะแส แม้ว่าจะสามารถป้องกันอันตรายร้ายแรงได้ก็ตาม พนักงานกังวลเรื่องความเสียหายต่ออาชีพหรือการแก้แค้นจากการรายงานปัญหา สิ่งนี้สร้างสภาพแวดล้อมที่ปัญหาที่ทราบกันดีถูกฝังไว้แทนที่จะได้รับการแก้ไข
ผลกระทบต่อเหยื่อผู้เสียหาย:
- ข้อหาทางอาญา: ลักทรัพย์ ฉ้อโกง บัญชีเท็จ
- ผลที่ตามมา: โทษจำคุก ล้มละลาย สูญเสียบ้าน
- ผลกระทบต่อสุขภาพ: ปัญหาสุขภาพจิต ความสัมพันธ์แตกสลาย
- ผลกระทบทางสังคม: การถูกชุมชนขับไล่
- สถานะปัจจุบัน: รัฐบาลได้ออกกฎหมายเพื่อพลิกคำพิพากษาและจ่ายค่าชดเชย
ความรับผิดชอบร่วมกันสำหรับความล้มเหลวของความยุติธรรม
ความผิดไม่ได้อยู่ที่ Post Office และ Fujitsu เพียงอย่างเดียว ระบบกฎหมายเองก็ล้มเหลวในการตรวจสอบหลักฐานอย่างเหมาะสมหรือตั้งคำถามเกี่ยวกับความน่าเชื่อถือของระบบ Horizon ผู้พิพากษาและทนายความประมวลผลคดีหลายร้อยคดีโดยไม่รู้จักรูปแบบของปัญหา
ผู้สังเกตการณ์บางคนสังเกตว่าสื่อมวลชน สหราชอาณาจักร ไม่เต็มใจที่จะวิพากษ์วิจารณ์บทบาทของระบบตุลาการในเหตุการณ์เสื่อมเสียนี้ ในขณะที่ผู้บริหารองค์กรต้องเผชิญกับการตรวจสอบ ผู้เชี่ยวชาญด้านกฎหมายที่ทำให้การตัดสินผิดพลาดเหล่านี้เกิดขึ้นได้หลบหนีจากความรับผิดชอบไปเป็นส่วนใหญ่
ต้นทุนด้านมนุษยธรรมของความล้มเหลวทางเทคโนโลยีนี้ไม่สามารถประเมินค่าได้ คนบริสุทธิ์สูญเสียบ้าน เข้าคุก และเผชิญกับการถูกสังคมรังเกียจในชุมชนของพวกเขา การฆ่าตัวตาย 13 รายที่ได้รับการยืนยันเป็นเพียงผลลัพธ์ที่น่าเศร้าที่สุดของระบบที่ให้ความสำคัญกับประสิทธิภาพมากกว่าความถูกต้องและชื่อเสียงองค์กรมากกว่าชีวิตมนุษย์
อ้างอิง: At least 13 may have killed themselves over U.K. Post Office wrongful convictions scandal