การประกาศของรัฐบาล UK ที่จะขยายขอบเขต Online Safety Act โดยทำให้เนื้อหาที่เกี่ยวกับการทำร้ายตนเองเป็นความผิดระดับลำดับความสำคัญสูง ได้จุดประกายการถกเถียงอย่างเข้มข้นเกี่ยวกับประสิทธิผลและอันตรายที่อาจเกิดขึ้นจากการควบคุมเนื้อหาด้วยอัลกอริธึม แม้ว่ากฎหมายนี้จะมีเป้าหมายเพื่อปกป้องผู้ใช้ที่เปราะบางจากสื่อที่เป็นอันตราย แต่การอภิปรายในชุมชนเทคโนโลยีเผยให้เห็นความกังวลอย่างลึกซึ้งเกี่ยวกับการใช้อำนาจเกินขอบเขตและผลกระทบที่ไม่คาดคิด
กฎระเบียบใหม่นี้จะกำหนดให้บริษัทเทคโนโลยีต้องค้นหาและลบเนื้อหาที่ส่งเสริมหรือช่วยเหลือการทำร้ายตนเองอย่างร้ายแรงก่อนที่จะไปถึงผู้ใช้อย่างเชิงรุก สิ่งนี้แสดงถึงการเปลี่ยนแปลงจากการควบคุมแบบตอบสนองไปสู่มาตรการป้องกัน โดยขยายการปกป้องที่เดิมใช้กับเด็กเท่านั้นให้ครอบคลุมผู้ใช้ทุกคน
ข้อกำหนดทางกานหมายสำหรับบริษัทเทคโนโลยี
- แสวงหาและกำจัดเนื้อหาที่เป็นอันตรายก่อนที่ผู้ใช้จะได้รับชม
- ใช้ "เทคโนโลยีล้ำสมัย" สำหรับการตรวจจับเนื้อหา
- ใช้การคุ้มครองทางกฎหมายที่เข้มงวดที่สุดในฐานะ "ความผิดลำดับความสำคัญสูงสุด"
- เปลี่ยนจากแนวทางการควบคุมแบบตอบสนองไปเป็นแบบป้องกันล่วงหน้า
การควบคุมด้วยอัลกอริธึมสร้างความเสียหายข้างเคียง
การอภิปรายในชุมชนเน้นย้ำปัญหาพื้นฐานของการกรองเนื้อหาอัตโนมัติ: อัลกอริธึมมีปัญหาในการแยกแยะระหว่างเนื้อหาที่เป็นอันตรายและการอภิปรายที่ถูกต้องตามกฎหมาย ความกังวลนี้ขยายไปเกินกว่าการจับคู่คำหลักอย่างง่าย ๆ ไปจนส่งผลกระทบต่อทรัพยากรการศึกษา การรายงานข่าว และชุมชนสนับสนุนที่อภิปรายหัวข้อเหล่านี้อย่างสร้างสรรค์
ชุมชนเทคโนโลยีชี้ไปที่ตัวอย่างที่มีอยู่แล้วที่แพลตฟอร์มต่าง ๆ แสดงให้เห็นปัญหานี้ ระบบอัตโนมัติของ YouTube มักจะติดแฟล็กเนื้อหาที่ไม่เกี่ยวข้องด้วยแบนเนอร์ป้องกันการฆ่าตัวตาย ในขณะที่เว็บไซต์สนับสนุนที่ถูกต้องตามกฎหมายถูกเซ็นเซอร์เพราะอภิปรายเรื่องที่พวกเขามีเป้าหมายจะแก้ไข ผู้สังเกตการณ์คนหนึ่งสังเกตว่าแม้แต่การอภิปรายเกี่ยวกับกฎหมายนี้ก็อาจถูกติดแฟล็กและลบออกโดยระบบกรองที่กระตือรือร้นเกินไป
การควบคุมด้วยอัลกอริธึม: ระบบอัตโนมัติที่สแกนและกรองเนื้อหาตามกฎที่กำหนดไว้ล่วงหน้าและแบบจำลองการเรียนรู้ของเครื่อง
การเพิ่มขึ้นของ Algospeak และอุปสรรคในการสื่อสาร
การผลักดันเพื่อการควบคุมเนื้อหาที่เข้มงวดขึ้นได้เปลี่ยนแปลงวิธีที่ผู้คนสื่อสารออนไลน์แล้ว ทำให้เกิดคำพ้องความหมายที่สร้างสรรค์และภาษาเข้ารหัส ผู้ใช้ได้พัฒนาคำศัพท์เช่น unalive แทน suicide, sewerslide และ self-terminate เพื่อหลีกเลี่ยงการกระตุ้นตัวกรองเนื้อหาบนแพลตฟอร์มเช่น TikTok และ Instagram
วิวัฒนาการทางภาษานี้เกิดจากความกังวลของผู้สร้างเนื้อหาเกี่ยวกับการตัดรายได้และการปราบปรามเนื้อหา ชุมชนสังเกตว่าแม้ภาษาเข้ารหัสบางส่วนจะเกิดจากความคิดสร้างสรรค์ที่สนุกสนาน แต่ส่วนใหญ่แล้วแสดงถึงความพยายามอย่างแท้จริงในการอภิปรายหัวข้อร้ายแรงโดยไม่มีการแทรกแซงจากอัลกอริธึม อย่างไรก็ตาม แนวโน้มนี้ทำให้เกิดความกังวลว่าการอภิปรายด้านสุขภาพจิตที่สำคัญกำลังถูกทำให้ดูเล็กน้อยผ่านคำพ้องความหมายที่ถูกบังคับใช้
คำศัพท์ "Algospeak" ที่พบบ่อย
- "Unalive" → การฆ่าตัวตาย
- "Sewerslide" → การฆ่าตัวตาย
- "Self-terminate" → การทำร้ายตนเอง
- "PDF file" → คนที่มีความผิดปกติทางเพศกับเด็ก
- "Neurospicy" → ผู้ที่มีความแตกต่างทางระบบประสาท
- "Bird website" → X ( Twitter )
- 🍉 (อีโมจิแตงโม) → Palestine
แรงจูงใจที่ไม่สมดุลขับเคลื่อนการเซ็นเซอร์เกินขอบเขต
ผู้สังเกตการณ์ในอุตสาหกรรมเทคโนโลยีระบุข้อบกพร่องสำคัญในการจัดโครงสร้างกฎหมายการควบคุมเนื้อหา: พวกเขาสร้างแรงจูงใจทางการเงินที่แข็งแกร่งให้บริษัทเซ็นเซอร์เกินขอบเขตมากกว่าที่จะเสี่ยงต่อบทลงโทษทางกฎหมาย เมื่อแพลตฟอร์มต้องเผชิญกับผลกระทบทางกฎหมายและการเงินที่สำคัญสำหรับการอนุญาตให้มีเนื้อหาที่เป็นอันตราย แต่มีบทลงโทษน้อยมากสำหรับการลบสื่อที่ถูกต้องตามกฎหมาย พวกเขาจึงเพิ่มประสิทธิภาพการกรองอย่างก้าวร้าวตามธรรมชาติ
ไม่มีแรงจูงใจใด ๆ ที่จะต่อต้านการลบเนื้อหาที่ดีด้วยอัลกอริธึมโดยผิดพลาด หากคุณกำหนดความเสี่ยงทางการเงินและกฎหมายขนาดใหญ่ในด้านหนึ่ง และไม่มีอะไรเลยในอีกด้านหนึ่ง บริษัทมหาชนจะเพิ่มประสิทธิภาพตามแรงจูงใจที่คุณให้มาอย่างมีเหตุผลมาก
ความไม่สมดุลนี้หมายความว่าข่าวสาร เนื้อหาการศึกษา และทรัพยากรสนับสนุนที่สำคัญมักจะกลายเป็นเหยื่อของระบบการควบคุมอัตโนมัติที่ออกแบบมาเพื่อหลีกเลี่ยงบทลงโทษด้านกฎระเบียบ
กำหนดการดำเนินการ
- กฎระเบียบจะมีผลบังคับใช้ 21 วันหลังจากรัฐสภาอนุมัติ
- คาดว่าจะมีการวาง Statutory Instrument ในฤดูใบไม้ร่วงปี 2024
- เนื้อหาการทำร้ายตนเองกลายเป็น "ความผิดลำดับความสำคัญ" สำหรับผู้ใช้ทุกคน (ก่อนหน้านี้เฉพาะเด็กเท่านั้น)
คำถามที่กว้างขึ้นเกี่ยวกับขอบเขตเนื้อหา
การมุ่งเน้นของกฎหมายโดยเฉพาะในเนื้อหาการทำร้ายตนเองในขณะที่ไม่รวมกิจกรรมที่อาจเป็นอันตรายอื่น ๆ ได้รับการวิพากษ์วิจารณ์เพราะขอบเขตที่แคบ การอภิปรายในชุมชนตั้งคำถามว่าทำไมกฎหมายจึงกำหนดเป้าหมายเนื้อหาที่เกี่ยวข้องกับการฆ่าตัวตาย แต่ไม่สนใจพฤติกรรมการทำลายตนเองรูปแบบอื่น ๆ ที่ถูกส่งเสริมออนไลน์ เช่น การพนันมากเกินไป การบริโภคแอลกอฮอล์ หรือความท้าทายการกินที่อันตราย
แนวทางที่เลือกสรรนี้ทำให้เกิดคำถามเกี่ยวกับความสอดคล้องในการปกป้องผู้ใช้จากเนื้อหาที่เป็นอันตราย และว่ากฎหมายแก้ไขอาการมากกว่าสาเหตุพื้นฐานของอันตรายออนไลน์หรือไม่
การถกเถียงสะท้อนถึงความตึงเครียดที่กว้างขึ้นระหว่างการปกป้องผู้ใช้ที่เปราะบางและการรักษาวาทกรรมออนไลน์ที่เปิดกว้าง ขณะที่กฎระเบียบเคลื่อนไปสู่การดำเนินการในฤดูใบไม้ร่วง 2024 ชุมชนเทคโนโลยียังคงต่อสู้เพื่อหาทางแก้ไขที่มีประสิทธิภาพที่ไม่เสียสละการสื่อสารที่ถูกต้องตามกฎหมายในการแสวงหาความปลอดภัย
อ้างอิง: Online safety laws to strengthen to protect people of all ages from devastating self-harm content