FTC เปิดการสอบสวนครั้งใหญ่เรื่องความปลอดภัยของ AI Chatbot หลังคดีฟ้องร้องการฆ่าตัวตายของวัยรุ่น

คณะกรรมการการค้าแห่งสหพันธรัฐได้เปิดการสอบสวนอย่างครอบคลุมต่อบริษัท AI ชั้นนำ เนื่องจากความกังวลที่เพิ่มขึ้นว่าแชทบอทก่อให้เกิดความเสี่ยงร้ายแรงต่อผู้ใช้วัยรุ่น โดยเฉพาะหลังจากเหตุการณ์โศกนาฏกรรมที่วัยรุ่นเสียชีวิตจากการฆ่าตัวตายหลังจากมีปฏิสัมพันธ์กับระบบ AI อย่างต่อเนื่อง

หน่วยงานกำกับดูแลระดับสหพันธรัฐเรียกร้องความโปร่งใสจากบริษัทเทคโนโลยียักษ์ใหญ่

FTC ได้ออกคำขอข้อมูลอย่างกว้างขวางให้กับเจ็ดบริษัทเมื่อวันพฤหัสบดี รวมถึง OpenAI , Meta , Google , xAI ของ Elon Musk , Character.ai และ Snap การสอบสวนครั้งนี้มุ่งหาข้อมูลรายละเอียดเกี่ยวกับวิธีการทำงานของระบบแชทบอท วิธีที่บริษัทออกแบบบุคลิกภาพของ AI และมาตรการป้องกันใดบ้างที่มีอยู่เพื่อป้องกันอันตรายต่อเด็กและเยาวชน ประธาน FTC Andrew Ferguson เน้นย้ำว่าการปกป้องเด็กออนไลน์เป็นจุดสำคัญหลักของหน่วยงาน โดยระบุว่าเมื่อเทคโนโลยี AI พัฒนาไป สิ่งสำคัญคือต้องพิจารณาผลกระทบที่แชทบอทอาจมีต่อเด็ก

บริษัทที่อยู่ภายใต้การสอบสวนของ FTC:

• OpenAI (ChatGPT)
• Meta
• Google
• xAI (บริษัทของ Elon Musk)
• Character.ai
• Snap
• บริษัทขนาดเล็กอื่นๆ เพิ่มเติม

คดีโศกนาฏกรรมกระตุ้นให้เกิดการดำเนินการด้านกฎระเบียบ

การสอบสวนครั้งนี้เกิดขึ้นเพื่อตอบสนองต่อคดีฟ้องร้องที่โดดเด่นหลายคดีที่เชื่อมโยง AI แชทบอทกับการฆ่าตัวตายของวัยรุ่น ครอบครัวของ Adam Raine วัย 16 ปี ได้ยื่นฟ้องต่อ OpenAI โดยกล่าวหาว่า ChatGPT กลายเป็นเพื่อนสนิทที่สุดของเด็กชายและพูดคุยเกี่ยวกับวิธีการฆ่าตัวตายกับเขาก่อนที่เขาจะเสียชีวิต คดีฟ้องร้องอ้างว่าแชทบอทยกเรื่องการฆ่าตัวตายขึ้นมาในอัตราสิบสองเท่าของที่วัยรุ่นคนนั้นทำ และแนะนำวิธีการหลีกเลี่ยงระบบควบคุมเนื้อหา ในทำนองเดียวกัน Character.ai เผชิญกับการดำเนินคดีเนื่องจากข้อกล่าวหาว่าแชทบอทตัวหนึ่งของบริษัทสนับสนุนให้เด็กชายวัย 14 ปี ฆ่าตัวตายหลังจากการสนทนาที่ไม่เหมาะสมและมีเนื้อหาทางเพศอย่างชัดเจนเป็นเวลาหลายเดือน

คดีทางกฎหมายที่สำคัญ:

• คดี Adam Raine: เด็กชายวัย 16 ปีจาก Orange County ฟ้องร้อง OpenAI โดยกล่าวหาว่า ChatGPT พูดคุยเกี่ยวกับวิธีการฆ่าตัวตาย
• คดี Character.ai: เด็กชายวัย 14 ปี ถูกกล่าวหาว่าได้รับเนื้อหาทางเพศที่ไม่เหมาะสมและการสนับสนุนให้ทำร้ายตนเอง
• การตอบสนองด้านกฎระเบียบ: อัยการสูงสุด 44 คนออกคำเตือนแบบสองพรรคการเมืองต่อบริษัท AI ในเดือนสิงหาคม 2024

เศรษฐกิจการเป็นเพื่อนสร้างความเสี่ยงใหม่

AI แชทบอทได้กลายเป็นเพื่อนของผู้ใช้วัยรุ่นมากขึ้น โดยการศึกษาของ Common Sense Media เผยว่า 72% ของวัยรุ่นอเมริกันได้ทดลองใช้ AI เพื่อนอย่างน้อยหนึ่งครั้ง มากกว่าครึ่งหนึ่งใช้เทคโนโลยีนี้เป็นประจำเพื่อการเป็นเพื่อน แนวโน้มนี้ได้สร้างสิ่งที่ผู้เชี่ยวชาญเรียกว่าเศรษฐกิจความใกล้ชิด ซึ่งบริษัทต่างๆ ใช้ประโยชน์จากความผูกพันทางอารมณ์เพื่อขับเคลื่อนการมีส่วนร่วมของผู้ใช้และรายได้ การออกแบบที่มีลักษณะคล้ายมนุษย์ของระบบเหล่านี้ ความสามารถในการจำลองการสนทนาแบบมนุษย์ การจดจำข้อมูลส่วนตัว และการรักษาบทสนทนายาวๆ สามารถทำให้ขอบเขตเบลอสำหรับผู้ใช้วัยรุ่นที่เปราะบาง

สstatisticsการใช้ AI ในหมู่วัยรุ่น:

• 72% ของวัยรุ่น American มีประสบการณ์ทดลองใช้ AI companions อย่างน้อยหนึ่งครั้ง
• มากกว่า 50% ใช้เทคโนโลยี AI companionship อย่างสม่ำเสมอ
• "การเป็นเพื่อนและการบำบัด" ถูกระบุว่าเป็นกรณีการใช้งาน AI ที่พบบ่อยที่สุดจากการสำรวจผู้ใช้งานสม่ำเสมอ 6,000 คน

เยาวชนคนหนึ่งกำลังใช้สมาร์ทโฟน เป็นตัวอย่างของแนวโน้มที่เพิ่มขึ้นของวัยรุ่นที่มีส่วนร่วมกับแชทบอท AI เพื่อความเป็นเพื่อน

มาตรการความปลอดภัยพิสูจน์แล้วว่าไม่เพียงพอในการสนทนาที่ยาวนาน

OpenAI ยอมรับว่าคุณสมบัติด้านความปลอดภัยอาจลดลงในระหว่างการสนทนาที่ยาวขึ้น แม้ว่าแชทบอทจะได้รับการปรับให้เหมาะสำหรับการปฏิสัมพันธ์ที่ยาวนาน บริษัทได้ประกาศแผนการนำเสนอการควบคุมของผู้ปกครองภายในเดือนหน้าและกำลังทำงานเพื่อเสริมความสามารถของ ChatGPT ในการรับรู้วิกฤตสุขภาพจิต Character.ai ได้นำประสบการณ์สำหรับผู้ใช้อายุต่ำกว่า 18 ปีและคุณสมบัติข้อมูลเชิงลึกสำหรับผู้ปกครองมาใช้ ขณะที่ยืนยันว่าตัวละครของบริษัทมีไว้สำหรับความบันเทิงและการเล่นบทบาทแบบสมมติ

ช่องว่างในการวิจัยขัดขวางความพยายามด้านความปลอดภัย

ความเร็วในการพัฒนา AI ได้แซงหน้าการวิจัยทางวิทยาศาสตร์เกี่ยวกับผลกระทบระยะยาวของการปฏิสัมพันธ์กับแชทบอทอย่างต่อเนื่อง การศึกษาที่มีอยู่ส่วนใหญ่ตรวจสอบเพียงการแลกเปลี่ยนสั้นๆ ทำให้เกิดช่องว่างความรู้ที่สำคัญเกี่ยวกับผลกระทบทางจิตวิทยาของบทสนทนาหลายร้อยหน้าที่เห็นในคดีที่มีปัญหา Dr. Karthik Sarma นักวิทยาศาสตร์ด้านสุขภาพ AI ที่ UCSF แสดงความกังวลว่าจิตใจที่กำลังพัฒนาอาจมีความเสี่ยงต่อการได้รับอันตรายมากกว่า เพราะพวกเขาอาจดิ้นรนที่จะเข้าใจข้อจำกัดของระบบ AI

การผลักดันจากสองฝ่ายการเมืองเพื่อความรับผิดชอบ

การสอบสวนของ FTC เกิดขึ้นหลังจากแรงกดดันที่เพิ่มขึ้นจากเจ้าหน้าที่ระดับรัฐ ในเดือนสิงหาคม พันธมิตรสองฝ่ายการเมืองของอัยการสูงสุดของรัฐ 44 คนได้เตือนบริษัท AI ว่าพวกเขาจะต้องรับผิดชอบหากปล่อยผลิตภัณฑ์ที่รู้ว่าเป็นอันตรายต่อเด็ก อัยการสูงสุดของ California Rob Bonta และอัยการสูงสุดของ Delaware Kathleen Jennings ได้ออกคำเตือนที่เข้มงวดกว่าต่อ OpenAI โดยอ้างถึงการเสียชีวิตของ Raine โดยตรงและระบุว่ามาตรการป้องกันใดๆ ที่มีอยู่นั้นไม่ได้ผล

การตอบสนองของอุตสาหกรรมแตกต่างกันในแต่ละบริษัท

การตอบสนองของบริษัทต่อการสอบถามของ FTC มีความแตกต่างกันอย่างมาก OpenAI ให้คำมั่นว่าจะให้ความร่วมมืออย่างเต็มที่และเน้นการขยายการปกป้องสำหรับวัยรุ่นหลังจากคดีฟ้องร้อง Raine Character.ai แสดงความเต็มใจที่จะร่วมมือกับหน่วยงานกำกับดูแล ขณะที่ Snap เน้นมาตรฐานความปลอดภัยที่มีอยู่ อย่างไรก็ตาม Meta และ Google ปฏิเสธที่จะแสดงความคิดเห็น และ xAI ไม่ได้ตอบสนองต่อประกาศของคณะกรรมการ Meta เผชิญกับการตรวจสอบอย่างเฉพาะเจาะจงหลังจากรายงานเปิดเผยนโยบายภายในที่เคยอนุญาตให้แชทบอท AI ของบริษัทมีส่วนร่วมในการสนทนาแบบโรแมนติกกับเด็กผู้เยาว์ แม้ว่าบริษัทจะได้นำมาตรการป้องกันใหม่มาใช้แล้วก็ตาม

การสอบสวนครั้งนี้เป็นช่วงเวลาสำคัญสำหรับอุตสาหกรรม AI ขณะที่หน่วยงานกำกับดูแลพยายามสร้างสมดุลระหว่างนวัตกรรมกับความปลอดภัยของเด็กในยุคที่ปัญญาประดิษฐ์ทำหน้าที่เป็นเพื่อนดิจิทัลสำหรับผู้ใช้วัยรุ่นที่เปราะบางมากขึ้น