ในการเปิดเผยให้เห็นว่าบริษัทปัญญาประดิษฐ์กำลังเดินหน้าระหว่างภูมิทัศน์ทางกฎหมายและการกำกับดูแลอย่างไร OpenAI กลับพบว่าตนเองอยู่ใจกลางของคดีความสองคดีที่แตกต่างกัน ซึ่งเน้นย้ำถึงความสัมพันธ์ที่ซับซ้อนระหว่างนวัตกรรมเทคโนโลยี ความเป็นส่วนตัวของผู้ใช้ และความรับผิดชอบขององค์กร วิวัฒนาการล่าสุดแสดงให้เห็นว่าหน่วยงานบังคับใช้กฎหมายระดับสหพันธรัฐกำลังใช้ข้อมูลผู้ใช้ ChatGPT ในการสืบสวนคดีอาญา ในขณะเดียวกัน OpenAI ก็ได้ใช้กลยุทธ์ทางกฎหมายที่ก้าวร้าวต่อองค์กรไม่แสวงหาผลกำไรที่วิจารณ์โครงสร้างทาง cooperate ของตน เรื่องราวคู่ขนานเหล่านี้แสดงให้เห็นถึงความยากลำบากในการเติบโตของบริษัทที่กำลังเปลี่ยนผ่านจากองค์กรไม่แสวงหาผลกำไรที่มุ่งเน้นการวิจัย สู่พลังทางการค้า ในขณะที่ต้องจัดการกับข้อมูลผู้ใช้ที่ละเอียดอ่อนและเผชิญกับการตรวจสอบจากกลุ่มนักเคลื่อนไหว
หน่วยงานรัฐได้หมายค้นข้อมูลผู้ใช้ ChatGPT เป็นครั้งแรกที่ทราบกัน
กรมสอบสวนความมั่นคงแห่งมาตุภูมิ (Department of Homeland Security Investigations) ได้รับหมายค้นของสหพันธรัฐซึ่งดูเหมือนจะเป็นหมายแรกที่บังคับให้ OpenAI เปิดเผยข้อมูลผู้ใช้จากการโต้ตอบกับ ChatGPT หมายค้นซึ่งถูกเปิดเผยในรัฐเมนเมื่อสัปดาห์ที่แล้ว เผยให้เห็นว่าหน่วยงานรัฐที่กำลังสืบสวนคดีแสวงหาประโยชน์ทางเพศจากเด็กบนดาร์กเว็บค้นพบว่าผู้ต้องสงสัยได้ใช้ ChatGPT สำหรับวัตถุประสงค์ต่างๆ ที่ไม่เกี่ยวข้องกับกิจกรรมทางอาญา ระหว่างการแชทลับกับผู้ดูแลหลายเว็บไซต์ที่มีสื่อลามกอนาจารเด็ก นักสืบได้ทราบว่าผู้ต้องสงสัยได้แบ่งปันเนื้อหาที่สร้างโดย ChatGPT รวมถึงบทกวีตลกที่เขียนในสไตล์ของอดีตประธานาธิบดี Donald Trump เกี่ยวกับความชื่นชอบในเพลง Y.M.C.A. ของวง Village People รัฐบาลได้สั่งให้ OpenAI จัดหาข้อมูลโดยละเอียดเกี่ยวกับผู้ใช้ รวมถึงรายละเอียดบัญชี ข้อมูลการชำระเงิน และบันทึกการสนทนาอื่นๆ
 |
|---|
| ข้อความตลกขบขันที่สร้างโดย ChatGPT นี้เน้นย้ำถึงเนื้อหาที่ไม่คาดคิดที่พบระหว่างการสืบสวนที่เชื่อมโยงกับคดีร้ายแรงเกี่ยวกับการแสวงหาประโยชน์ทางเพศจากเด็ก |
ข้อมูล ChatGPT ช่วยการสืบสวนคดีแสวงหาประโยชน์ทางเพศจากเด็กอย่างไร
ในขณะที่ข้อความที่ป้อนเข้าไปใน ChatGPT นั้นไม่มีเนื้อหาที่ผิดกฎหมาย—โดยมุ่งเน้นไปที่สถานการณ์นิยายสมมติและบทกวีที่สร้างโดย AI แทน—มันได้ให้เส้นทางเพิ่มเติมแก่นักสืบในการระบุตัวผู้ต้องสงสัย คดีนี้แสดงให้เห็นถึงการประยุกต์ใช้คำขอย้อนกลับไปยังข้อความ AI (reverse AI prompt requests) ในรูปแบบใหม่ ซึ่งหน่วยงานบังคับใช้กฎหมายใช้การโต้ตอบกับ AI ที่ดูเหมือนไม่เป็นพิษเป็นภัยเพื่อสร้างคดีต่อผู้ต้องสงสัยทางอาญา แนวทางนี้คล้ายคลึงกับกลยุทธ์ทางกฎหมายก่อนหน้านี้ที่เครื่องมือค้นหาอย่าง Google ถูกบังคับให้ให้ข้อมูลเกี่ยวกับผู้ที่ป้อนคำค้นหาเฉพาะ แต่ถือเป็นกรณีแรกที่ทราบกันว่าข้อมูลจากแพลตฟอร์ม Generative AI ถูกใช้ในลักษณะนี้ แม้จะได้รับหมายค้นแล้ว ในท้ายที่สุดนักสืบก็ระบุตัวผู้ต้องสงสัยได้ผ่านวิธีการดั้งเดิม โดยทราบจากการสนทนาลับว่าเขาเกี่ยวข้องกับกองทัพสหรัฐฯ และเคยประจำการที่ Ramstein Air Force Base ในประเทศเยอรมนี
สถิติการกลั่นกรองเนื้อหาและการร้องขอจากรัฐบาลของ OpenAI
รายงานความโปร่งใสของ OpenAI บ่งชี้ว่าบริษัทได้ตรวจสอบและรายงานเนื้อหาที่มีปัญหาบนแพลตฟอร์มของตนอย่างแข็งขัน ระหว่างเดือนกรกฎาคมถึงธันวาคมของปีที่แล้ว OpenAI รายงานเนื้อหาที่เกี่ยวข้องกับสื่อลามกอนาจารเด็ก 31,500 ชิ้น ให้แก่ศูนย์แห่งชาติเพื่อเด็กที่หายไปและถูกแสวงประโยชน์ (National Center for Missing and Exploited Children) ในช่วงหกเดือนเดียวกัน บริษัทได้รับคำขอกำหนดการจากรัฐบาล 71 เรื่องสำหรับข้อมูลผู้ใช้หรือเนื้อหา ส่งผลให้มีข้อมูลถูกจัดหาจาก 132 บัญชี สถิตินี้ชี้ให้เห็นว่าในขณะที่หมายค้นในคดีแสวงหาประโยชน์ทางเพศจากเด็กเป็นบรรทัดฐานทางกฎหมายที่สำคัญ แต่มันก็อยู่ในรูปแบบที่กำหนดไว้แล้วของ OpenAI ในการร่วมมือกับการสืบสวนของหน่วยงานบังคับใช้กฎหมายที่ชอบด้วยกฎหมายเมื่อถูกบังคับผ่านช่องทางทางกฎหมายอย่างเหมาะสม
สถิติคำขอจากรัฐบาลของ OpenAI (กรกฎาคม-ธันวาคม ปีที่แล้ว)
- การกลั่นกรองเนื้อหา: รายงานเนื้อหาที่เกี่ยวข้องกับ CSAM จำนวน 31,500 รายการต่อ NCMEC
- คำขอจากรัฐบาล: คำขอข้อมูลผู้ใช้หรือเนื้อหาจำนวน 71 คำขอ
- บัญชีที่ได้รับผลกระทบ: มีการให้ข้อมูลจากบัญชีผู้ใช้จำนวน 132 บัญชี
- บรรทัดฐานทางกฎหมาย: หมายศาลของรัฐบาลกลางฉบับแรกที่ทราบสำหรับข้อมูลผู้ใช้ ChatGPT
องค์กรไม่แสวงหาผลกำไรเผชิญหมายศาจจาก OpenAI ที่ก้าวร้าว
ในเวลาเดียวกัน OpenAI ได้เข้าไปมีส่วนร่วมในแคมเปญทางกฎหมายแยกต่างหากซึ่งเกี่ยวข้องกับหมายศาจที่ส่งไปยังองค์กรไม่แสวงหาผลกำไรหลายแห่งที่เคยวิพากษ์วิจารณ์การเปลี่ยนผ่านของบริษัทจากโครงสร้างไม่แสวงหาผลกำไรไปสู่การแสวงหาผลกำไร องค์กรอย่างน้อยเจ็ดแห่ง รวมถึง The Midas Project, Encode, Future of Life Institute และ San Francisco Foundation ได้รับคำขอเอกสารอย่างกว้างขวางจากทีมกฎหมายของ OpenAI หมายศาจเหล่านี้ ซึ่งออกมาเป็นส่วนหนึ่งของการป้องกันตัวของ OpenAI ในการฟ้องร้องของ Elon Musk ที่ท้าทายการปรับโครงสร้างองค์กรของบริษัท ขอข้อมูลโดยละเอียดเกี่ยวกับแหล่งเงินทุนขององค์กรไม่แสวงหาผลกำไร การสื่อสารภายใน และเอกสารที่เกี่ยวข้องกับการกำกับดูแลของ OpenAI ผู้เชี่ยวชาญด้านกฎหมายได้ตั้งคำถามถึงความเกี่ยวข้องและสัดส่วนที่เหมาะสมของคำขอนี้ โดยชี้ว่ามันดูเหมือนถูกออกแบบมาเพื่อให้องค์กรขนาดเล็กต้องแบกรับค่าใช้จ่ายทางกฎหมายและภาระด้านการบริหารที่เกินกำลัง
องค์กรไม่แสวงหาผลกำไรที่ถูก OpenAI ออกหมายเรียกในคดีความกับ Musk
- The Midas Project (รายงาน OpenAI Files)
- Encode (การสนับสนุน California SB 53)
- Future of Life Institute (การวิจัยความเสี่ยงด้าน AI)
- San Francisco Foundation (การคุ้มครองทรัพย์สินเพื่อการกุศล)
- Ekō (ความรับผิดชอบขององค์กร)
- Legal Advocates for Safe Science and Technology
- Coalition for AI Nonprofit Integrity
ผลกระทบที่ทำให้เกิดความหวาดกลัวต่อการวิจารณ์และสนับสนุนด้าน AI
ขอบเขตอันกว้างขวางของหมายศาจจาก OpenAI ได้ก่อให้เกิดความกังวลเกี่ยวกับผลกระทบที่อาจทำให้เกิดความหวาดกลัว (chilling effect) ต่อการสนับสนุนขององค์กรไม่แสวงหาผลกำไรและการวิจารณ์บริษัทเทคโนโลยีที่มีอำนาจ Tyler Johnston ผู้ก่อตั้ง The Midas Project อธิบายว่าการได้รับหมายศาจทำให้องค์กรของเขาไม่สามารถทำประกันได้ เนื่องจากบริษัทประกันภัยทางกฎหมายอ้างถึงข้อพิพาทระหว่าง OpenAI กับ Musk อย่างชัดเจนว่าเป็นเหตุผลในการปฏิเสธความคุ้มครอง ในทำนองเดียวกัน Nathan Calvin จาก Encode ระบุว่าองค์กรไม่แสวงหาผลกำไรของเขาที่มีพนักงานเพียงสามคน เผชิญกับค่าใช้จ่ายทางกฎหมายที่อาจสูงถึง数หมื่นดอลลาร์ ก่อนที่จะได้ตัวแทนที่ทำงานให้โดยไม่คิดค่าใช้จ่าย (pro bono) นักวิชาการด้านกฎหมายอย่าง James Grimmelmann จาก Cornell ได้ระบุลักษณะของหมายศาจเหล่านี้ว่า กดขี่อย่างยิ่ง ที่จะกำหนดเป้าหมายไปที่องค์กรไม่แสวงหาผลกำไรในลักษณะนั้น โดยเฉพาะอย่างยิ่งเมื่อพิจารณาถึงธรรมชาติที่ยังเป็นเพียงการคาดเดาของข้อกล่าวหาของ OpenAI เกี่ยวกับการประสานงานที่อาจเกิดขึ้นกับ Musk
ผลกระทบในวงกว้างต่อการกำกับดูแล AI และความรับผิดชอบขององค์กร
วิวัฒนาการทางกฎหมายคู่ขนานเหล่านี้เกิดขึ้นบนพื้นหลังของการอภิปรายต่อเนื่องเกี่ยวกับการกำกับดูแล AI และความสมดุลที่เหมาะสมระหว่างนวัตกรรม ความเป็นส่วนตัวของผู้ใช้ และความรับผิดชอบขององค์กร คดีแสวงหาประโยชน์ทางเพศจากเด็กแสดงให้เห็นว่าแพลตฟอร์ม AI กำลังถูกบูรณาการเข้ากับการสืบสวนของหน่วยงานบังคับใช้กฎหมายอย่างไร ซึ่งทำให้เกิดคำถามเกี่ยวกับการปกป้องข้อมูลผู้ใช้และสถานการณ์ที่บริษัท AI ควรเปิดเผยข้อมูลผู้ใช้ ในขณะเดียวกัน แคมเปญหมายศาจต่อองค์กรไม่แสวงหาผลกำไรได้เน้นย้ำถึงความกังวลเกี่ยวกับวิธีที่บริษัทเทคโนโลยีที่มีทรัพยากรมากอาจใช้กระบวนการทางกฎหมายเพื่อกีดกันการวิจารณ์และการตรวจสอบแนวปฏิบัติของ cooperate เมื่อบริษัท AI ยังคงสะสมอำนาจและอิทธิพลอย่างมาก คดีเหล่านี้แสดงให้เห็นภูมิประเทศทางกฎหมายและจริยธรรมที่ซับซ้อนซึ่งพวกเขาต้องเดินหน้าขณะที่ยังคงรักษาความไว้วางใจจากสาธารณะและความรับผิดชอบ
ประเด็นทางกฎหมายสำคัญในคดีของ OpenAI
- การเข้าถึงข้อมูลคำสั่ง AI ของหน่วยงานรัฐบาลเพื่อการสืบสวนคดีอาญา
- ความเหมาะสมของหมายเรียกที่มีต่อองค์กรไม่แสวงหากำไร
- ความเกี่ยวข้องของแหล่งเงินทุนขององค์กรไม่แสวงหากำไรต่อคดีความปรับโครงสร้างองค์กร
- ผลกระทบที่อาจเกิดขึ้นต่อการวิพากษ์วิจารณ์และการสนับสนุน AI
- ความสมดุลระหว่างความต้องการของหน่วยงานบังคับใช้กฎหมายและความเป็นส่วนตัวของผู้ใช้
- การใช้กระบวนการทางกฎหมายของบริษัทต่อผู้วิพากษ์วิจารณ์
อนาคตของการกำกับดูแล AI และความโปร่งใสขององค์กร
ลักษณะที่ขัดแย้งกันของเรื่องทางกฎหมายเหล่านี้—เรื่องหนึ่งเกี่ยวข้องกับความจำเป็นที่ชอบด้วยกฎหมายของหน่วยงานบังคับใช้กฎหมาย และอีกเรื่องดูเหมือนจะกำหนดเป้าหมายไปที่การวิจารณ์ที่ชอบด้วยกฎหมาย—เน้นย้ำถึงความจำเป็นสำหรับแนวทางที่ชัดเจนเกี่ยวกับความรับผิดชอบของบริษัท AI และการปกป้องการสนับสนุนเพื่อประโยชน์สาธารณะ ในขณะที่ OpenAI ถูกรายงานว่ากำลังต่อสู้กับกฎหมายความปลอดภัย AI หมายเลข SB 53 ของรัฐแคลิฟอร์เนีย และในเวลาเดียวกันก็กำลังหาข้อมูลเกี่ยวกับวิธีการที่องค์กรไม่แสวงหาผลกำไรล็อบบี้เพื่อสนับสนุนร่างกฎหมายดังกล่าว บริษัทดูเหมือนจะใช้กลยุทธ์ทางกฎหมายที่คล้ายคลึงกับที่บริษัทเทคโนโลยีรายใหญ่ที่站稳脚跟แล้วใช้กัน เมื่อคดีเหล่านี้ก้าวหน้าต่อไป คดีเหล่านี้ย่อมจะส่งอิทธิพลต่อวิธีที่บริษัท AI จัดการกับข้อมูลผู้ใช้ ตอบสนองต่อคำขอของรัฐบาล และมีส่วนร่วมกับนักวิจารณ์ในอุตสาหกรรมที่ถูกตรวจสอบมากขึ้นเรื่อยๆ ซึ่งความไว้วางใจจากสาธารณะยังคงมีความสำคัญต่อความสำเร็จในระยะยาว