ในความเคลื่อนไหวสำคัญเพื่อแก้ไขความกังวลที่เพิ่มขึ้นเกี่ยวกับการปฏิสัมพันธ์ระหว่างปัญญาประดิษฐ์กับผู้เยาว์ Meta ได้ประกาศตัวควบคุมสำหรับผู้ปกครองแบบใหม่ที่ออกแบบมาโดยเฉพาะเพื่อจัดการวิธีที่วัยรุ่นมีส่วนร่วมกับตัวละคร AI บนแพลตฟอร์มของบริษัท การพัฒนานี้เกิดขึ้นท่ามกลางการตรวจสอบที่เพิ่มขึ้นจากหน่วยงานกำกับดูแลและผู้สนับสนุนความปลอดภัยของเด็กเกี่ยวกับวิธีที่บริษัทเทคโนโลยีจัดการกับการปกป้องเยาวชนในยุคของ AI สร้างสรรค์
ตัวควบคุมสำหรับผู้ปกครองแบบใหม่สำหรับการโต้ตอบกับ AI
Meta กำลังแนะนำตัวควบคุมแบบเจาะจงที่จะอนุญาตให้ผู้ปกครองสามารถปิดกั้นตัวละคร AI เฉพาะหรือปิดการเข้าถึงตัวละคร AI ทั้งหมดสำหรับบัญชีของลูกวัยรุ่นได้ คุณลักษณะนี้ซึ่งมีกำหนดเปิดตัวบน Instagram ในต้นปีหน้าถือเป็นหนึ่งในความพยายามที่ครอบคลุมเป็นครั้งแรกโดยบริษัทโซเชียลมีเดียรายใหญ่ที่จะให้ผู้ปกครองได้กำกับดูแลการโต้ตอบของบุตรหลานกับบุคคลาบ AI โดยตรง ที่น่าสนใจคือ แม้ว่าผู้ปกครองจะเลือกปิดกั้นการเข้าถึงตัวละคร AI ทั้งหมด แต่ลูกวัยรุ่นของพวกเขาจะยังคงมีความสามารถในการโต้ตอบกับผู้ช่วย AI หลักของ Meta ซึ่งบริษัทอ้างว่ามีการป้องกันที่เหมาะสมตามอายุที่ตั้งค่าไว้โดยปริยาย
คุณสมบัติหลักของระบบควบคุมโดยผู้ปกครองสำหรับ AI ของ Meta:
- สามารถบลอกตัวละคร AI แต่ละตัวได้
- ตัวเลือกในการปิดการเข้าถึงตัวละคร AI ทั้งหมด
- ข้อมูลเชิงลึกเกี่ยวกับการสนทนาของวัยรุ่นกับตัวละคร AI และ Meta AI
- มาตรฐานการจัดเรตติ้งเนื้อหาแบบ PG-13 สำหรับการโต้ตอบกับ AI
- ตัวเลือกการกรองเนื้อหาที่เข้มงวดยิ่งขึ้น
 |
|---|
| การโต้ตอบกับ Meta AI บนหน้าจอคอมพิวเตอร์ แสดงให้เห็นการควบคุมโดยผู้ปกครองรูปแบบใหม่สำหรับตัวละคร AI |
พื้นหลังและแรงกดดันจากหน่วยงานกำกับดูแล
เวลาของการประกาศนี้เกิดขึ้นหลังจากมีการเปิดเผยข้อมูลที่น่ากังวลเกี่ยวกับแนวทางก่อนหน้าของ Meta ในการโต้ตอบกับ AI กับผู้เยาว์ เพียงสองเดือนก่อนการประกาศนี้ เอกสารนโยบายภายในที่ได้รับโดย Reuters แสดงให้เห็นว่า Meta มีแนวทางที่อนุญาตให้แชทบอต AI ของตนมีบทสนทนาเชิงชู้สาวกับเด็ก เอกสารดังกล่าวรวมถึงตัวอย่างการตอบสนองที่เหมาะสมต่อคำถามที่น่ากังวลจากผู้ใช้เยาว์ ซึ่งก่อให้เกิดการต่อต้านทันทีจากผู้สนับสนุนการปกป้องเด็กและหน่วยงานกำกับดูแล เพื่อตอบสนองต่อข้อค้นพบเหล่านี้ อัยการสูงสุดจาก 42 รัฐและ 2 ดินแดนได้ส่งจดหมายอย่างเป็นทางการถึง Meta และบริษัท AI อีกสิบสองแห่ง เพื่อเตือนว่าพวกเขาจะใช้ทุกอำนาจของเราเพื่อปกป้องเด็กจากการถูกแสวงประโยชน์โดยผลิตภัณฑ์ปัญญาประดิษฐ์ที่ล่าเหยื่อ
บริบทของอุตสาหกรรม:
- OpenAI เปิดตัวระบบควบคุมโดยผู้ปกครองสำหรับ ChatGPT ในเดือนกันยายน 2024
- รัฐทั้ง 42 แห่งและดินแดนสองแห่งส่งจดหมายเตือนไปยังบริษัท AI เกี่ยวกับการคุ้มครองเด็ก
- นักวิจัยได้บันทึกไว้ว่าระบบตรวจสอบอายุสามารถหลีกเลี่ยงได้ง่าย
- Meta เคยเผชิญกับการวิพากษ์วิจารณ์มาก่อนหน้านี้เกี่ยวกับนโยบายภายในเรื่องการโต้ตอบของ AI กับเด็กผู้เยาว์
มาตรการความปลอดภัยที่ขยายออกไปและการกรองเนื้อหา
นอกเหนือจากตัวควบคุมสำหรับผู้ปกครองแบบใหม่แล้ว Meta ได้นำมาตรการความปลอดภัยในวงกว้างมากขึ้นสำหรับบัญชีวัยรุ่นมาใช้ บริษัทเพิ่งอัปเดตประสบการณ์ AI สำหรับผู้ใช้เยาว์ให้สอดคล้องกับแนวทางเรตติ้ง PG-13 ซึ่งหมายความว่าการตอบสนองของ AI ไม่ควรมีเนื้อหาที่รู้สึกว่าไม่เหมาะสมสำหรับระดับเรตติ้งนั้น Meta ยังได้เสริมความแข็งแกร่งให้กับนโยบายที่มีอยู่เพื่อซ่อนหรือห้ามคำแนะนำของเนื้อหาที่ชี้นำทางเพศ ภาพกราฟิก และเนื้อหาสำหรับผู้ใหญ่เช่นการขายยาสูบหรือเครื่องดื่มแอลกอฮอล์จากบัญชีวัยรุ่น ผู้ปกครองจะมีตัวเลือกในการใช้ตัวกรองเนื้อหาที่เข้มงวดยิ่งขึ้นซึ่งไปไกลกว่าข้อจำกัดมาตรฐาน PG-13 โดยจัดเตรียมการป้องกันหลายชั้นสำหรับครอบครัวที่กังวล
คุณสมบัติการตรวจสอบและความโปร่งใส
ระบบใหม่นี้รวมถึงความสามารถในการตรวจสอบที่อนุญาตให้ผู้ปกครองเข้าถึงข้อมูลเชิงลึกเกี่ยวกับหัวข้อที่บุตรหลานของพวกเขากำลังพูดคุยกับทั้งตัวละคร AI และผู้ช่วย AI ของ Meta แม้ว่าบริษัทจะไม่ได้ให้รายละเอียดเฉพาะเกี่ยวกับว่าข้อมูลเชิงลึกเหล่านี้จะรวมถึงอะไร แต่คุณลักษณะนี้แสดงถึงความพยายามที่จะเพิ่มความโปร่งใสเกี่ยวกับการโต้ตอบกับ AI Meta ยังยืนยันว่าตัวละคร AI ของมันถูกออกแบบมาแล้วเพื่อหลีกเลี่ยงการพูดคุยหัวข้อที่ละเอียดอ่อนเช่นการทำร้ายตัวเอง การฆ่าตัวตาย หรือความผิดปกติทางการกินกับผู้ใช้เยาว์ อย่างไรก็ตาม ประสิทธิภาพของมาตรการป้องกันเหล่านี้ยังคงต้องได้รับการทดสอบอย่างถี่ถ้วนในสภาพแวดล้อมจริง
บริบทอุตสาหกรรมและความท้าทายในการนำไปปฏิบัติ
Meta ไม่ได้อยู่คนเดียวในการต่อสู้กับปัญหาด้านความปลอดภัยของ AI สำหรับผู้ใช้ที่อายุน้อยกว่า OpenAI บริษัทแม่ของ ChatGPT ได้เปิดตัวชุดตัวควบคุมสำหรับผู้ปกครองของตัวเองในเดือนกันยายน ซึ่งรวมถึงเวอร์ชัน ChatGPT ที่ออกแบบสำหรับวัยรุ่นโดยเฉพาะ อย่างไรก็ตาม นักวิจัยได้บันทึกอย่างสม่ำเสมอว่ามันง่ายแค่ไหนที่จะหลีกเลี่ยงข้อจำกัดด้านอายุและระบบการยืนยันที่บริษัทแชทบอตนำมาใช้ สิ่งนี้ทำให้เกิดคำถามเกี่ยวกับประสิทธิภาพของระบบการปิดกั้นอายุดิจิทัล์ใดๆ ก็ตาม ไม่ว่ามันจะถูกออกแบบด้วยความตั้งใจที่ดีเพียงใด ตัวควบคุมใหม่ของ Meta จะเปิดตัวครั้งแรกในสหรัฐอเมริกา สหราชอาณาจักร แคนาดา และออสเตรเลีย โดยใช้ภาษาอังกฤษ โดยอาจขยายไปยังตลาดอื่นๆ ขึ้นอยู่กับความสำเร็จของการเปิดตัวครั้งแรก
กำหนดการเปิดตัวและความพร้อมใช้งาน:
- กำหนดเปิดตัวครั้งแรกบน Instagram ในช่วงต้นปี 2025
- เปิดให้บริการในสหรัฐอเมริกา สหราชอาณาจักร แคนาดา และออสเตรเลียในระยะแรก
- รองรับภาษาอังกฤษเมื่อเปิดตัว
- ไม่ส่งผลกระทบต่อการเข้าถึงผู้ช่วย AI หลักของ Meta
เส้นทางข้างหน้าสำหรับความปลอดภัยของ AI
ในขณะที่ตัวควบคุมใหม่เหล่านี้แสดงถึงก้าวไปข้างหน้าในการกำกับดูแลโดยผู้ปกครอง พวกเขายังเน้นย้ำถึงความท้าทายอย่างต่อเนื่องที่บริษัทเทคโนโลยีเผชิญในการสร้างสมดุลระหว่างนวัตกรรมกับความปลอดภัย ความจริงที่ว่าตัวควบคุมเหล่านี้กำลังถูกนำไปใช้หลายปีหลังจากที่ตัวละคร AI ของ Meta เปิดตัวครั้งแรก บ่งชี้ว่าอุตสาหกรรมกำลังพยายามตามให้ทันกับเทคโนโลยี AI ที่พัฒนาอย่างรวดเร็ว ในขณะที่ปัญญาประดิษฐ์ถูกบูรณาการเข้ากับแพลตฟอร์มโซเชียลมากขึ้นเรื่อยๆ ความต้องการมาตรการความปลอดภัยที่แข็งแกร่งและเป็นเชิงรุกจะเติบโตอย่างยิ่งยวดมากขึ้นเพื่อปกป้องผู้ใช้ที่เปราะบาง โดยเฉพาะเด็กและวัยรุ่นที่กำลังเดินทางผ่านสภาพแวดล้อมดิจิทัลที่ซับซ้อน