ระบบปัญญาประดิษฐ์กำลังถูกนำมาใช้ในบทบาทด้านความปลอดภัยมากขึ้นเรื่อยๆ โดยสัญญาว่าจะเพิ่มความปลอดภัยให้สาธารณะผ่านการตรวจจับภัยคุกคามอัตโนมัติ อย่างไรก็ตาม เหตุการณ์ที่เกิดขึ้นไม่นานมานี้ในโรงเรียนมัธยมแห่งหนึ่งในรัฐแมรี่แลนด์ ได้เผยให้เห็นข้อบกพร่องที่อาจเกิดขึ้นเมื่อ AI ตีความวัตถุในชีวิตประจำวันผิดว่าเป็นอาวุธอันตราย ซึ่งทำให้เกิดคำถามสำคัญเกี่ยวกับความน่าเชื่อถือของระบบเหล่านี้ในสถานการณ์จริง
เหตุการณ์ที่สั่นสะเทือนชุมชนโรงเรียน
ในช่วงเย็นของวันที่ 20 ตุลาคม 2025 การชุมนุมหลังเลิกเรียนซึ่งควรจะเป็นไปตามปกติ กลับกลายเป็นประสบการณ์ที่สะเทือนใจสำหรับนักเรียนที่โรงเรียน Kenwood High School ใน Baltimore County รถตำรวจหลายคัน ซึ่งตามรายงานบางฉบับมีถึงแปดคันในที่สุด ได้เคลื่อนกำลังเข้าสู่พื้นที่โรงเรียนเพื่อตอบสนองต่อการแจ้งเตือนจากระบบตรวจจับปืน Omnilert AI ระบบได้ระบุสิ่งที่มันเชื่อว่าเป็นปืน ทำให้เกิดการตอบสนองจากเจ้าหน้าที่บังคับใช้กฎหมายในทันที ภาพจากกล้องติดตัวเจ้าหน้าที่ในภายหลังบันทึกช่วงเวลาตึงเครียดเมื่อเจ้าหน้าที่ซึ่งปฏิบัติการตามการประเมินของ AI ได้เข้าไปหานักเรียนในขณะที่ชักอาวุธออกมา
ไทม์ไลน์เหตุการณ์สำคัญ:
- 20 ตุลาคม 2025 เวลา 19:23 น.: ระบบ Omnilert แจ้งเตือนเจ้าหน้าที่โรงเรียนถึงอาวุธปืนที่อาจเกิดขึ้น
- ภายในไม่กี่นาที: รถตำรวจแปดคันเดินทางมาที่โรงเรียน Kenwood High School
- 19:26 น.: ตำรวจระบุวัตถุที่แท้จริง - ถุงขนม Doritos
- หลังเหตุการณ์: เจ้าหน้าที่ Baltimore County เรียกร้องให้มีการตรวจสอบระบบ
ต้นทุนของมนุษย์จากความผิดพลาดของอัลกอริทึม
จุดสนใจของการตอบสนองของตำรวจคือนักเรียน Taki Allen ซึ่งกำลังรอรถมารับหลังการฝึกซ้อมฟุตบอล เจ้าหน้าที่สั่งให้ Allen นอนลงกับพื้นและใส่กุญแจมือให้เขา ก่อนจะทำการค้นอย่างละเอียด สถานการณ์คลี่คลายลงก็ต่อเมื่อตำรวจระบุได้ว่าวัตถุที่ก่อให้เกิดการเตือนจริงๆ แล้วคือถุงสีน้ำเงินของขนม Doritos ที่ Allen กำลังรับประทานอยู่ ขณะพยายามอธิบายสถานการณ์ให้นักเรียนที่สับสนฟัง เจ้าหน้าที่คนหนึ่งกล่าวว่า ผมเดาว่าแค่เพราะวิธีที่พวกคุณกำลังกินขนมถุง... Doritos หรืออะไรก็ตาม มันเลยตรวจจับว่ามันเป็นปืน เจ้าหน้าที่อีกรายหนึ่งจะบอกกับนักเรียนในภายหลังว่า AI ไม่ได้ดีที่สุด ซึ่งเป็นการยอมรับความล้มเหลวของระบบในครั้งนี้
คำพูดที่น่าสนใจจากฝ่ายที่เกี่ยวข้อง:
- เจ้าหน้าที่ตำรวจ: "AI ไม่ใช่สิ่งที่ดีที่สุด"
- นักเรียน Taki Allen: "ผมไม่คิดว่าผมปลอดภัยพอที่จะออกไปข้างนอก โดยเฉพาะการกินมันฝรั่งทอดถุงหนึ่ง"
- สมาชิกสภา Julian Jones: "มันเกิดขึ้นได้อย่างไรที่เรามีเจ้าหน้าที่ตำรวจถือปืนเข้าไปหาเด็กเพียงเพราะ Doritos ถุงหนึ่ง?"
- ผู้อำนวยการ Dr. Myriam Rogers: "โปรแกรมทำงานตามที่มันควรจะทำ"
 |
|---|
| เทคโนโลยีตรวจจับปืนด้วย AI ของ Omnilert เน้นย้ำถึงบทบาทในการระบุวัตถุที่ไม่เป็นอันตรายผิดพลาดว่าเป็นภัยคุกคาม |
ระบบของ Omnilert ควรทำงานอย่างไร
เทคโนโลยีตรวจจับปืนด้วย AI ของ Omnilert ได้รับการออกแบบมาเพื่อรวมเข้ากับระบบกล้องรักษาความปลอดภัยที่มีอยู่ โดยวิเคราะห์ฟีดวิดีโอแบบเรียลไทม์เพื่อระบุอาวุธปืนที่อาจเกิดขึ้น ตามเอกสารเผยแพร่ของบริษัท กระบวนการนี้เกี่ยวข้องกับสามขั้นตอนที่แตกต่างกัน ได้แก่ การตรวจจับโดย AI ในขั้นต้น การยืนยันโดยมนุษย์ และสุดท้ายคือการแจ้งเตือนอัตโนมัติและการตอบสนองเหตุฉุกเฉินหากมีการยืนยันภัยคุกคาม ระบบตลาดตัวเองว่าเป็นทางแก้ไขที่อาจเกิดขึ้นสำหรับโศกนาฏกรรมการยิงในโรงเรียน โดยอ้างอิงถึงเหตุการณ์อย่าง Uvalde, Sandy Hook และ Parkland โดยเฉพาะในวัสดุส่งเสริมการขายของตน เป็นตัวอย่างของสิ่งที่เทคโนโลยีของพวกเขาอาจป้องกันได้
ขั้นตอนการทำงานของระบบตรวจจับอาวุธปืนด้วย AI ของ Omnilert:
- ขั้นตอนที่ 1: AI วิเคราะห์ฟีดภาพจากกล้องวงจรปิดแบบเรียลไทม์เพื่อตรวจจับอาวุธปืนที่อาจเกิดขึ้น
- ขั้นตอนที่ 2: การตรวจจับเชิงบวกจะถูกส่งไปยังมนุษย์เพื่อทำการยืนยัน
- ขั้นตอนที่ 3: หลังจากการยืนยัน ระบบแจ้งเตือนอัตโนมัติจะเริ่มทำงานตามโปรโตคอลการตอบสนองฉุกเฉิน
ผลที่ตามมาและการตอบสนองจากสถาบัน
หลังจากเหตุการณ์นี้ Dr. Myriam Rogers หัวหน้าสถาบันการศึกษา Baltimore County Public Schools ได้ปกป้องการทำงานของระบบโดยระบุว่า โปรแกรมทำในสิ่งที่มันควรจะทำ ซึ่งก็คือส่งสัญญาณเตือนและให้มนุษย์มาดูเพื่อหาว่ามีเหตุให้ต้องกังวลในขณะนั้นหรือไม่ ในขณะเดียวกัน Omnilert ได้ออกแถลงการณ์ระบุว่าภายในไม่กี่นาที เหตุการณ์ดังกล่าวถูกทำเครื่องหมายว่าได้รับการแก้ไขแล้วในระบบของเรา และว่าระบบทำงานตามที่ออกแบบมา นั่นคือการตรวจจับภัยคุกคามที่อาจเกิดขึ้น ส่งต่อเพื่อตรวจสอบโดยมนุษย์ และรับประกันการตัดสินใจที่รวดเร็วและมีข้อมูล ทั้งโรงเรียนและ Omnilert ได้เสนอบริการให้คำปรึกษาแก่นักเรียนที่เกี่ยวข้อง
ความกังวลที่เพิ่มขึ้นและเสียงเรียกร้องให้มีการทบทวน
เหตุการณ์นี้ทำให้สมาชิกสภา Baltimore County Councilmen Iazzy Patoka และ Julian Jones เรียกร้องให้มีการทบทวนระบบ Omnilert Jones แสดงความโล่งใจที่สถานการณ์ไม่ร้ายแรงไปกว่านี้ ในขณะที่ตั้งคำถามกับลำดับเหตุการณ์: มันเกิดขึ้นได้อย่างไรที่เรามีเจ้าหน้าที่ตำรวจชักปืนออกมาเข้าไปหาตัวเด็กเพราะถุงขนม Doritos? สำหรับ Taki Allen แล้ว ผลกระทบทางอารมณ์มีความสำคัญมาก เขาบอกกับผู้สื่อข่าวว่า ตอนนี้ ฉันรู้สึกว่าบางครั้งหลังฝึกซ้อมฉันไม่ออกไปข้างนอกอีกแล้ว เพราะถ้าฉันออกไปข้างนอก ฉันไม่อยาก - ไม่คิดว่าฉันจะปลอดภัยพอที่จะออกไปข้างนอก โดยเฉพาะการกินถุงขนมหรือดื่มอะไรสักอย่าง ฉันจะอยู่ข้างในจนกว่ารถมารับ
ผลกระทบในวงกว้างสำหรับระบบรักษาความปลอดภัยด้วย AI
เหตุการณ์นี้เกิดขึ้นในช่วงเวลาที่ระบบรักษาความปลอดภัยด้วย AI กำลังได้รับความนิยมในสถานที่สาธารณะต่างๆ รวมถึงโรงเรียน สนามบิน และอาคารรัฐบาล การระบุผิด Doritos ครั้งนี้ทำให้เกิดคำถามพื้นฐานเกี่ยวกับความ成熟ของอัลกอริทึมคอมพิวเตอร์วิทัศน์ ในการแยกแยะระหว่างวัตถุที่ไม่มีอันตรายและภัยคุกคามที่แท้จริง นอกจากนี้ยังเน้นย้ำถึงความสำคัญอย่างยิ่งของขั้นตอนการยืนยันโดยมนุษย์ในระบบดังกล่าว และสิ่งที่เกิดขึ้นเมื่อกระบวนการนั้นล้มเหลวหรือถูกข้ามไป ขณะที่สถาบันการศึกษาและองค์กรอื่นๆ หันมาใช้ AI สำหรับโซลูชันด้านความปลอดภัยมากขึ้นเรื่อยๆ เหตุการณ์นี้ทำหน้าที่เป็นเรื่องเล่าเพื่อเตือนสติเกี่ยวกับการสร้างสมดุลระหว่างนวัตกรรมทางเทคโนโลยีกับความน่าเชื่อถือในทางปฏิบัติ และการทำความเข้าใจผลที่ตามมาในโลกจริงของข้อผิดพลาดจากอัลกอริทึม