ระบบ AI ของ Flock ตอนนี้แจ้งเตือนรูปแบบการเคลื่อนไหวที่ "น่าสงสัย" ให้ตำรวจ ก่อให้เกิดความกังวลด้านความเป็นส่วนตัว

บริษัทเฝ้าระวัง Flock ได้ข้ามเส้นแดงสำคัญด้วยการนำอัลกอริทึม AI มาใช้ที่แจ้งเตือนรูปแบบการเคลื่อนไหวของประชาชนว่าน่าสงสัยและรายงานให้หน่วยงานบังคับใช้กฎหมายโดยอัตโนมัติ นี่เป็นการเปลี่ยนแปลงที่น่าวิตกจากการติดตามป้ายทะเบียนรถแบบเฝ้าระวังไปสู่การสร้างความสงสัยเชิงรุก ทำให้เกิดคำถามร้ายแรงเกี่ยวกับความเป็นส่วนตัวและเสรีภาพพลเมืองในอเมริกา

ระบบติดตามป้ายทะเบียนรถทั่วประเทศของบริษัทแห่งนี้เฝ้าระวังการเคลื่อนไหวประจำวันของชาวอเมริกันหลายล้านคนอยู่แล้ว ตอนนี้ด้วยฟีเจอร์อย่าง Multi-State Insights และ Investigations Manager AI ของ Flock วิเคราะห์รูปแบบการขับขี่อย่างแข็งขันเพื่อระบุสิ่งที่มันพิจารณาว่าเป็นพฤติกรรมอาชญากรรม ระบบจะแจ้งเตือนตำรวจเมื่อยานพาหนะข้ามรัฐบ่อยครั้งหรือปรากฏในหลายสถานที่ ซึ่งอาจกำหนดเป้าหมายผู้เดินทางผู้บริสุทธิ์ ผู้เดินทางไปทำงาน หรือใครก็ตามที่มีกิจวัตรไม่เข้ากับคำจำกัดความแคบ ๆ ของปกติตามอัลกอริทึม

คุณสมบัติ AI ใหม่ของ Flock :

• Multi-State Insights: แจ้งเตือนเมื่อยานพาหนะข้ามแดนรัฐบ่อยครั้ง
• Investigations Manager: ตรวจจับ "รูปแบบกิจกรรมที่น่าสงสัย" ข้ามเมืองและรัฐ
• Linked Vehicles/Convoy Search: ระบุยานพาหนะที่มักพบเห็นร่วมกัน
• Multiple Locations Search: ตั้งสถานะเฝ้าระวังยานพาหนะที่ปรากฏในสถานที่ต่างๆ

ความท้าทายทางกฎหมายและความกังวลเรื่องการสร้างหลักฐานคู่ขนาน

แม้ว่าศาลเคยตัดสินว่าการทำนายด้วยอัลกอริทึมเพียงอย่างเดียวไม่สามารถสร้างเหตุอันควรเชื่อสำหรับการจับกุมได้ แต่ความเป็นจริงนั้นซับซ้อนกว่า การอภิปรายในชุมชนเผยให้เห็นว่าหน่วยงานตำรวจอาจใช้การแจ้งเตือนของ Flock เป็นจุดเริ่มต้นสำหรับการสืบสวน จากนั้นสร้างคดีผ่านการสร้างหลักฐานคู่ขนาน - การหาเส้นทางหลักฐานทางเลือกที่ซ่อนคำแนะนำ AI เดิม

คุณสามารถเอาชนะข้อหาได้ แต่คุณไม่สามารถเอาชนะการถูกจับได้

แม้ว่าข้อหาจะถูกถอนในที่สุด การถูกแจ้งโดยระบบของ Flock อาจนำไปสู่การจับกุม ค่าธรรมเนียมทางกฎหมาย ตราบาปทางสังคม และการเฝ้าระวังของตำรวจอย่างต่อเนื่อง การลงโทษในกระบวนการมักจะมีน้ำหนักมากกว่าการพิสูจน์ความบริสุทธิ์ทางกฎหมายในที่สุด

ข้อกังวลด้านความเป็นส่วนตัวที่ชุมชนยกขึ้น:

• ไม่มีความโปร่งใสเกี่ยวกับตรรกะของอัลกอริทึมหรือข้อมูลการฝึกอบรม
• อคติที่อาจเกิดขึ้นต่อชุมชนที่มีรายได้น้อยและชนกลุ่มน้อย
• การเปิดเผยข้อมูลสาธารณะที่ไม่ถูกต้องเกี่ยวกับหน่วยงานที่เข้าร่วม
• ความเสี่ยงของการสร้างหลักฐานแบบขนานเพื่อซ่อนเบาะแสที่สร้างโดย AI
• การลงโทษผ่านกระบวนการโดยการจับกุมแม้ว่าข้อหาจะถูกยกเลิก

อคติของอัลกอริทึมและปัญหาความโปร่งใส

สิ่งที่น่ากังวลที่สุดคือการขาดความโปร่งใสอย่างสิ้นเชิงเกี่ยวกับอัลกอริทึมของ Flock อดีตพนักงานรายงานว่าบริษัทได้ออกห่างจากการพิจารณาด้านจริยธรรม โดยผู้นำมุ่งเน้นไปที่การขจัดอาชญากรรมทั้งหมดผ่านการเฝ้าระวังที่รุกรานมากขึ้นเรื่อย ๆ ระบบ AI มีแนวโน้มที่จะแสดงอคติอย่างมีนัยสำคัญ อาจกำหนดเป้าหมายย่านชุมชนรายได้น้อยและชุมชนคนผิวสีอย่างไม่เป็นสัดส่วนโดยอิงจากข้อมูลอาชญากรรมในอดีตที่สะท้อนความไม่เท่าเทียมกันในระบบที่มีอยู่

สมาชิกชุมชนสังเกตว่าการเปิดเผยต่อสาธารณะของ Flock เกี่ยวกับหน่วยงานที่เข้าร่วมนั้นแย่มาก โดยหน่วยงานตำรวจหลายแห่งใช้ระบบนี้โดยไม่มีการรับรู้ของสาธารณะ ความลับนี้ทำให้ประชาชนไม่สามารถทราบได้ว่าเมื่อไหร่ที่พวกเขาถูกเฝ้าระวังหรือท้าทายการตัดสินใจของระบบ

มาตรการป้องกันทางเทคนิคและข้อจำกัดของมัน

บางคนพูดถึงวิธีการแก้ไขทางเทคนิคเช่นฝาครอบป้ายทะเบียนหรืออุปกรณ์บล็อกรังสีอินฟราเรด แต่กล้อง Flock สมัยใหม่ใช้วิธีการระบุหลายวิธีรวมถึงสติกเกอร์กันชน ชั้นวางของบนหลังคา และลักษณะตัวถังรถ การพยายามปิดบังป้ายทะเบียนมักจะกระตุ้นการตรวจสอบเพิ่มเติมผ่านอัลกอริทึมตรวจจับป้ายทะเบียนแปลก ๆ

เครือข่ายการเฝ้าระวังได้กลายเป็นระบบที่ซับซ้อนพอที่วิธีการหลบหลีกแบบดั้งเดิมไม่มีประสิทธิภาพเป็นส่วนใหญ่ ทำให้ประชาชนมีตัวเลือกน้อยนอกเหนือจากการดำเนินการทางการเมืองเพื่อจำกัดระบบเหล่านี้

วิธีการระบุตัวตนยานพาหนะที่ใช้โดย Flock :

• การจดจำป้ายทะเบียนรถ (วิธีการหลัก)
• สติกเกอร์กันชนและสติกเกอร์ตกแต่ง
• ตะขอลากรถและชั้นวางของบนหลังคา
• ความแตกต่างของสีแผงตัวถัง
• ประเภทของล้อและขอบล้อ
• ลักษณะของฟิล์มกรองแสงหน้าต่าง
• การจดจำยี่ห้อและรุ่นของยานพาหนะ

เส้นทางข้างหน้า

การขยายความสามารถของ Flock ยืนยันคำเตือนที่มีมายาวนานเกี่ยวกับการขยายภารกิจการเฝ้าระวัง สิ่งที่เริ่มต้นเป็นเครื่องมือสำหรับการสืบสวนอาชญากรรมเฉพาะได้พัฒนาเป็นระบบสำหรับสร้างความสงสัยเกี่ยวกับประชาชนธรรมดา ชุมชนต่าง ๆ ตอนนี้เผชิญกับทางเลือก: ยอมรับการเฝ้าระวังที่ขับเคลื่อนด้วย AI อย่างแพร่หลายหรือต่อต้านหน่วยงานตำรวจที่พยายามนำระบบเหล่านี้มาใช้

ดังที่สมาชิกชุมชนคนหนึ่งกล่าวไว้ ประเด็นพื้นฐานไม่ได้เป็นเพียงเรื่องเทคโนโลยี - แต่เป็นเรื่องของว่าเราเต็มใจที่จะยอมรับสังคมที่อัลกอริทึมตัดสินใจว่าใครสมควรได้รับความสนใจจากตำรวจโดยอิงจากการเคลื่อนไหวประจำวันของพวกเขาหรือไม่

อ้างอิง: Surveillance Company Flock Now Using AI to Report Us to Police if it Thinks Our Movement Patterns Are Suspicious

การเรียกร้องให้ลงมือปฏิบัติจาก ACLU เน้นย้ำถึงความจำเป็นในการต่อสู้กับการปฏิบัติการเฝ้าระวังที่บุกรุก