การสืบสวนใหม่โดย Electronic Frontier Foundation ได้เปิดเผยรายละเอียดที่น่าวิตกเกี่ยวกับ Draft One ของ Axon ซึ่งเป็นเครื่องมือ AI ที่เขียนรายงานตำรวจจากเสียงของกล้องติดตัว ระบบนี้ดูเหมือนจะถูกออกแบบมาเพื่อหลีกเลี่ยงความโปร่งใสมากกว่าที่จะปรับปรุงมัน ทำให้เกิดคำถามร้ายแรงเกี่ยวกับความรับผิดชอบในการบังคับใช้กฎหมาย
 |
|---|
| เครื่องมือ AI Draft One ของ Axon ทำให้เกิดคำถามร้ายแรงเกี่ยวกับความรับผิดชอบและความโปร่งใสในการบังคับใช้กฎหมาย |
ร่องรอยเอกสารที่หายไป
Draft One สร้างรายงานตำรวจโดยการประมวลผลเสียงจากกล้องติดตัวเจ้าหน้าที่โดยใช้ระบบที่คล้าย ChatGPT อย่างไรก็ตาม ร่างต้นฉบับที่สร้างโดย AI จะหายไปทันทีที่เจ้าหน้าที่แก้ไขเสร็จ นี่ไม่ใช่ความผิดพลาด แต่เป็นความตั้งใจ ผู้จัดการผลิตภัณฑ์ของ Axon กล่าวอย่างเปิดเผยว่าพวกเขาไม่เก็บร่างต้นฉบับเพราะสิ่งสุดท้ายที่เราต้องการทำคือสร้างปัญหาการเปิดเผยข้อมูลเพิ่มเติมให้กับลูกค้าของเรา
การเลือกออกแบบนี้หมายความว่าไม่มีใครสามารถบอกได้ว่าส่วนไหนของรายงานตำรวจฉบับสุดท้ายมาจาก AI และส่วนไหนเขียนโดยเจ้าหน้าที่มนุษย์ เมื่อข้อผิดพลาด อคติ หรือแม้แต่การโกหกปรากฏในรายงาน ก็ไม่มีทางกำหนดได้ว่า AI หรือเจ้าหน้าที่เป็นผู้รับผิดชอบ
ความกังวลของชุมชนเกี่ยวกับความรับผิดชอบ
การอภิปรายในชุมชนเทคโนโลยีเผยให้เห็นความสงสัยอย่างลึกซึ้งเกี่ยวกับแนวทางนี้ หลายคนชี้ให้เห็นปัญหาพื้นฐาน: เจ้าหน้าที่ควรรับผิดชอบเต็มที่สำหรับรายงานที่พวกเขาลงนาม แต่ธรรมชาติของมนุษย์บ่งบอกว่าพวกเขาจะพึ่งพา AI มากขึ้นโดยไม่ตรวจสอบอย่างระมัดระวัง
ดังนั้นเราไม่เก็บร่างต้นฉบับและนั่นเป็นการออกแบบโดยเจตนา และนั่นเป็นเพราะสิ่งสุดท้ายที่เราต้องการทำคือสร้างปัญหาการเปิดเผยข้อมูลเพิ่มเติมให้กับลูกค้าและสำนักงานทนายความของเรา
การเปรียบเทียบกับมาตรฐานความปลอดภัยการบินมักถูกกล่าวถึงในการอภิปราย นักบินยังคงรับผิดชอบต่อการตัดสินใจของระบบขับเคลื่อนอัตโนมัติ แต่พวกเขามีบันทึกและระบบรายละเอียดเพื่อติดตามสิ่งที่เกิดขึ้น Draft One ไม่มีความโปร่งใสนี้เลย
การดำเนินการทางกฎหมาย:
- California AB-2544: จะกำหนดให้ต้องเปิดเผยการใช้ AI และเก็บร่างเอกสาร
- Utah: กำลังพิจารณาข้อกำหนดการเปิดเผยการใช้ AI แบบบังคับ
- King County, Washington: อัยการเขตห้ามใช้ AI ในการเขียนรายงานตำรวจ
- EU AI Act: ห้ามการใช้ AI ในการบังคับใช้กฎหมายประเภทนี้โดยเฉพาะ
ปัญหาการตรวจสอบ
แม้แต่คำถามพื้นฐานเกี่ยวกับการใช้งาน Draft One ก็เกือบจะตอบไม่ได้ กรมตำรวจไม่สามารถสร้างรายชื่อเจ้าหน้าที่ที่ใช้ระบบหรือรายงานไหนที่เกี่ยวข้องกับความช่วยเหลือจาก AI ได้อย่างง่ายดาย กรมตำรวจบางแห่งบอกกับผู้ขอข้อมูลสาธารณะว่าพวกเขาไม่สามารถระบุรายงานที่สร้างโดย AI ได้เลย
คุณสมบัติการตรวจสอบเพียงเล็กน้อยที่มีอยู่ก็มีข้อจำกัดอย่างมาก ผู้ดูแลระบบต้องค้นหาด้วยตนเองผ่านบันทึกของเจ้าหน้าที่แต่ละคนหรือหาคำสำคัญเฉพาะในข้อความรายงาน สำหรับกรมตำรวจขนาดใหญ่ที่มีเจ้าหน้าที่หลายร้อยหรือหลายพันคน การกำกับดูแลที่มีความหมายกลายเป็นสิ่งที่เป็นไปไม่ได้ในทางปฏิบัติ
ข้อจำกัดในการตรวจสอบ Draft One:
- ไม่มีฟีเจอร์สำหรับส่งออกรายชื่อเจ้าหน้าที่ที่ใช้ระบบ
- ไม่มีวิธีส่งออกรายการรายงานที่สร้างโดย AI (เว้นแต่จะเพิ่มการเปิดเผยข้อมูลแบบกำหนดเอง)
- ติดตามเฉพาะการดำเนินการพื้นฐาน: การร้องขอร่าง การลงนามในการเปิดเผยความรับผิดชอบ
- ต้องมีการตรวจสอบด้วยตนเองสำหรับเจ้าหน้าที่แต่ละคน
- หน่วยงานบางแห่งไม่สามารถระบุรายงาน AI ได้เลย
ผลกระทบในโลกจริง
กรมตำรวจหลายแห่งใช้ Draft One อยู่แล้ว โดยมีผลลัพธ์ที่หลากหลายเกี่ยวกับประโยชน์ที่อ้างว่าช่วยประหยัดเวลา ที่น่าวิตกมากกว่าคือกรณีที่มีการบันทึกไว้ซึ่งระบบอนุญาตให้เจ้าหน้าที่ข้ามมาตรการป้องกันความปลอดภัยที่ออกแบบมาเพื่อป้องกันการส่งเนื้อหา AI ที่ไม่ได้แก้ไข
เทคโนโลยีนี้ยังดูเหมือนจะเปลี่ยนวิธีที่ตำรวจเขียนรายงานโดยสิ้นเชิง โดยกรมตำรวจบางแห่งสังเกตเห็นความแตกต่างอย่างมีนัยสำคัญในรูปแบบการเล่าเรื่อง อย่างไรก็ตาม หลายแห่งใช้ระบบนี้โดยไม่ปรึกษาอัยการที่พึ่งพารายงานเหล่านี้สำหรับคดีในศาล
ผู้ใช้งาน Draft One ในปัจจุบัน:
- Frederick Police Department ( Colorado ) - ผู้นำร่องในการใช้งาน
- Lafayette Police Department ( Indiana ) - รายงานไม่สามารถค้นหาได้
- Palm Beach County Sheriff's Office ( Florida ) - สร้างรายงานมากกว่า 1,000 ฉบับในช่วง ธ.ค. 2024 - มี.ค. 2025
- Campbell Police Department - พบการเปลี่ยนแปลงรูปแบบการเล่าเรื่องอย่างมีนัยสำคัญ
การตอบสนองทางกฎหมาย
California กำลังพิจารณากฎหมายที่จะกำหนดให้รายงานตำรวจที่สร้างโดย AI ต้องเก็บร่างต้นฉบับและรวมการเปิดเผยที่ชัดเจนเกี่ยวกับการมีส่วนร่วมของ AI เนื่องจาก Draft One ถูกออกแบบมาโดยเฉพาะเพื่อไม่เก็บร่าง จึงไม่สามารถปฏิบัติตามข้อกำหนดดังกล่าวได้
เขตอำนาจศาลอื่น ๆ กำลังใช้จุดยืนที่เข้มงวดกว่า สำนักงานอัยการเขต King County รัฐ Washington ได้สั่งการตำรวจไม่ให้ใช้ AI สำหรับการเขียนรายงานเลย โดยอ้างความกังวลเกี่ยวกับความน่าเชื่อถือและความรับผิดชอบ
การสืบสวนนี้เน้นย้ำถึงความตึงเครียดที่กว้างขึ้นระหว่างประสิทธิภาพทางเทคโนโลยีและความโปร่งใสของระบบยุติธรรม แม้ว่าเครื่องมือ AI อาจปรับปรุงการรายงานของตำรวจได้ แต่การนำไปใช้ในปัจจุบันให้ความสำคัญกับความสะดวกมากกว่าความรับผิดชอบ ซึ่งเป็นการพัฒนาที่น่าวิตกในระบบที่ถูกวิพากษ์วิจารณ์อยู่แล้วเรื่องการขาดการกำกับดูแล