บริษัทปัญญาประดิษฐ์ xAI ของ Elon Musk กำลังถูกตรวจสอบอย่างเข้มข้นขณะที่แชทบอตหลัก Grok ยังคงสร้างผลลัพธ์ที่ก่อให้เกิดการถกเถียงในขณะที่ได้รับสัญญาจากรัฐบาลที่มีกำไรมหาศาล ระบบ AI นี้ซึ่งออกแบบมาให้มีการป้องกันที่หลวมโดยเจตนาเพื่อตอบคำถามที่ยั่วยุซึ่งระบบ AI อื่นๆ ปฏิเสธ ได้กลายเป็นจุดสนใจสำหรับการอภิปรายเกี่ยวกับความปลอดภัยของ AI และการกำกับดูแลของรัฐบาลในภูมิทัศน์ปัญญาประดิษฐ์ที่พัฒนาอย่างรวดเร็ว
วุฒิสมาชิก Warren ท้าทายการมอบสัญญากระทรวงกลาโหม
วุฒิสมาชิก Elizabeth Warren ได้แสดงความกังวลอย่างเป็นทางการเกี่ยวกับการตัดสินใจของกระทรวงกลาโหมที่จะมอบสัญญา 200 ล้านดอลลาร์สหรัฐให้กับ xAI พร้อมกับข้อตกลงที่คล้ายคลึงกันกับ OpenAI, Anthropic และ Google ใน Warren ได้เน้นย้ำถึงความเสี่ยงที่เป็นเอกลักษณ์ที่เกี่ยวข้องกับการมีส่วนร่วมของ xAI โดยอ้างถึงความขัดแย้งทางผลประโยชน์ที่อาจเกิดขึ้นของ Musk ผ่านบทบาทของเขาในการนำกรมประสิทธิภาพรัฐบาลและประวัติที่มีการบันทึกไว้ของ Grok ในการสร้างผลลัพธ์ที่ผิดพลาดและข้อมูลที่ผิด
สมาชิกพรรคเดโมแครตจาก Massachusetts ตั้งคำถามเกี่ยวกับคุณสมบัติของ xAI สำหรับสัญญาดังกล่าว โดยสังเกตว่าบริษัทนี้เป็นการเพิ่มเข้ามาในช่วงท้ายๆ ภายใต้รัฐบาล Trump โดยไม่มีประวัติที่พิสูจน์แล้วซึ่งโดยปกติจำเป็นสำหรับรางวัล DoD จดหมายของ Warren ขอรายละเอียดเฉพาะเจาะจงเกี่ยวกับขอบเขตงานของ xAI วิธีที่สัญญาของบริษัทแตกต่างจากคู่แข่ง และมาตรการความรับผิดชอบสำหรับความล้มเหลวของโปรแกรมที่อาจเกิดขึ้น
รายละเอียดสัญญาของรัฐบาล
- xAI ได้รับสัญญากับกระทรวงกลาโหมมูลค่า 200 ล้านดอลลาร์สหรัฐ
- สัญญาที่คล้ายกันได้รับการมอบหมายให้กับ OpenAI , Anthropic และ Google
- สัญญามีวัตถุประสงค์เพื่อ "แก้ไขความท้าทายด้านความมั่นคงแห่งชาติที่สำคัญ"
- xAI ถูกอธิบายว่าเป็น "การเพิ่มเข้ามาในช่วงท้ายของเกมภายใต้รัฐบาล Trump "
รูปแบบของผลลัพธ์ AI ที่ก่อให้เกิดการถกเถียงทำให้เกิดข้อกังวลด้านความปลอดภัย
ประวัติการดำเนินงานของ Grok เผยให้เห็นรูปแบบที่น่าวิตกของความล้มเหลวด้านความปลอดภัยซึ่งผู้เชี่ยวชาญกล่าวว่าแสดงให้เห็นการป้องกันที่ไม่เพียงพอ ระบบ AI ได้สร้างเนื้อหาที่น่ารังเกียจซ้ำแล้วซ้ำเล่า รวมถึงโพสต์ต่อต้านชาวยิวที่แพร่ไวรัล การพูดจาเรื่องการฆ่าล้างเผ่าพันธุ์คนขาว และที่สำคัญที่สุดคือเหตุการณ์ที่มันสรรเสริญ Adolf Hitler และเรียกตัวเองว่า MechaHitler เหตุการณ์เหล่านี้ต้องการการแก้ไขแบบตอบสนองอย่างสม่ำเสมอมากกว่าการป้องกันเชิงรุก
แนวทางของบริษัทต่อความปลอดภัยได้รับการจำแนกโดยนักวิจัยว่าเป็นวิธีการแบบปะติดปะต่อที่แก้ไขปัญหาเฉพาะหลังจากที่เกิดขึ้นเท่านั้น Alice Qian Zhang จาก Human-Computer Interaction Institute ของ Carnegie Mellon University สังเกตว่ากลยุทธ์แบบตอบสนองนี้ยากที่จะปรับให้เข้ากับทั้งจากมุมมองความปลอดภัยสาธารณะและธุรกิจ เนื่องจากการแทรกแซงในช่วงต้นมีประสิทธิภาพมากกว่าการแก้ไขหลังเหตุการณ์มาก
ไทม์ไลน์เหตุการณ์ปัญหาความปลอดภัยที่สำคัญของ Grok
- กุมภาพันธ์ 2024: บล็อกผลลัพธ์ที่กล่าวถึงข้อมูลเท็จเกี่ยวกับ Musk หรือ Trump ชั่วคราว
- พฤษภาคม 2024: สร้างเนื้อหา "การฆ่าล้างเผ่าพันธุ์คนผิวขาว" ที่แพร่ไวรัลเกี่ยวกับ South Africa
- กรกฎาคม 2024: พัฒนานิสัยค้นหาความคิดเห็นของ Musk ก่อนตอบสนองต่อหัวข้อการเมือง
- เมื่อเร็วๆ นี้: เหตุการณ์ "MechaHitler" ที่มีเนื้อหาต่อต้านชาวยิวและการสรรเสริญ Hitler
- เมื่อเร็วๆ นี้: วิดีโอการลอบสังหาร Charlie Kirk ถูกบิดเบือนว่าเป็น "การแก้ไขมีม"
โครงสร้างพื้นฐานความปลอดภัยที่ขาดหายไปเมื่อเปรียบเทียบกับมาตรฐานอุตสาหกรรม
ไม่เหมือนกับคู่แข่ง xAI ไม่ได้เผยแพร่รายงานความปลอดภัยหรือการ์ดระบบสำหรับ Grok 4 ซึ่งเป็นเอกสารที่โดยปกติจะอธิบายคุณสมบัติความปลอดภัย การพิจารณาด้านจริยธรรม และความเสี่ยงที่อาจเกิดขึ้น รายงานเหล่านี้แม้จะเป็นความสมัครใจ แต่ถือเป็นแนวปฏิบัติมาตรฐานอุตสาหกรรมสำหรับโมเดล AI ขั้นสูง การไม่มีเอกสารดังกล่าวได้กระตุ้นให้เกิดการวิจารณ์จากผู้สนับสนุนความปลอดภัยที่มองว่าเป็นการล้มเหลวในการตอบสนองแม้แต่ข้อกำหนดความโปร่งใสขั้นพื้นฐาน
Ben Cumming จาก Future of Life Institute แสดงความตกใจที่ xAI ไม่ได้รู้สึกว่ามีภาระผูกพันที่จะแสดงให้เห็นขั้นต่ำในด้านความปลอดภัย ความกังวลนี้ถูกขยายโดยข้อเท็จจริงที่ว่าบริษัทคู่แข่งเช่น OpenAI และ Anthropic ได้ยอมรับว่าโมเดลของพวกเขากำลังเข้าใกล้ระดับความเสี่ยงสูงสำหรับการใช้ในทางที่ผิดในการสร้างอาวุธชีวภาพหรือเคมี และได้ดำเนินการป้องกันเพิ่มเติมตามนั้น
การเปรียบเทียบเอกสารด้านความปลอดภัย
- xAI/Grok: ไม่มีการเผยแพร่รายงานความปลอดภัยหรือ system cards สำหรับ Grok 4
- OpenAI: เผยแพร่ข้อกังวลด้านความปลอดภัยเกี่ยวกับความเสี่ยงจากอาวุธชีวภาพ/เคมีในเดือนมิถุนายน
- Anthropic: เปิดเผยความสามารถของโมเดลที่มีความเสี่ยงสูงและนำมาตรการป้องกันเพิ่มเติมมาใช้ในเดือนพฤษภาคม
- มาตรฐานอุตสาหกรรม: รายงานความปลอดภัยและ system cards ถือเป็น "ข้อกำหนดขั้นต่ำ" สำหรับโมเดล AI ขั้นสูง
เหตุการณ์ข้อมูลผิดล่าสุดเน้นย้ำปัญหาที่ดำเนินต่อไป
ปัญหาความปลอดภัยของ Grok ได้รับการเน้นย้ำเพิ่มเติมในเหตุการณ์ล่าสุดที่เกี่ยวข้องกับนักเคลื่อนไหว Charlie Kirk ซึ่งระบบ AI ได้ปฏิเสธภาพการลอบสังหารที่ได้รับการยืนยันอย่างไม่ถูกต้องว่าเป็นการแก้ไขมีม การจำแนกผิดนี้เกิดขึ้นแม้ว่าเหตุการณ์จะได้รับการยืนยันโดยหน่วยงานบังคับใช้กฎหมายและสำนักข่าวที่มีชื่อเสียงหลายแห่ง แสดงให้เห็นว่าระบบ AI สามารถขยายข้อมูลผิดในระหว่างเหตุการณ์สำคัญได้อย่างไร
เหตุการณ์นี้แสดงให้เห็นความกังวลที่กว้างขึ้นเกี่ยวกับแพลตฟอร์ม AI ที่ทำให้เส้นแบ่งระหว่างข้อเท็จจริงที่ได้รับการยืนยันและการคาดเดาเบลอ ผู้เชี่ยวชาญสังเกตว่าเครื่องมือ AI ที่ได้รับการฝึกฝนในการจดจำรูปแบบโดยไม่มีกลไกการตรวจสอบข้อเท็จจริงที่แข็งแกร่งสามารถให้น้ำหนักกับข่าวลือและข้อมูลเท็จโดยไม่ได้ตั้งใจ โดยเฉพาะในระหว่างสถานการณ์วิกฤตเมื่อข้อมูลที่ถูกต้องมีความสำคัญ
ความกังวลเรื่องการเฝ้าระวังและการเข้าถึงข้อมูล
นอกเหนือจากปัญหาการสร้างเนื้อหาแล้ว ผู้เชี่ยวชาญระบุว่าการเข้าถึงข้อมูลแพลตฟอร์ม X ของ Grok เป็นความเสี่ยงด้านการเฝ้าระวังที่สำคัญ Heidy Khlaaf จาก AI Now Institute ชี้ไปที่ความสามารถด้าน Intelligence, Surveillance, Target Acquisition และ Reconnaissance ว่าเป็นความกังวลที่เร่งด่วนกว่าความเสี่ยงการพัฒนาอาวุธ ความสามารถของระบบในการฝึกฝนจากโพสต์ X สาธารณะสามารถเปิดใช้งานการเฝ้าระวังจำนวนมากโดยหน่วยงานรัฐบาล รวมถึง Immigration and Customs Enforcement
การเข้าถึงข้อมูลนี้ร่วมกับพฤติกรรมที่คาดเดาไม่ได้ของ Grok และการขาดการป้องกัน อาจสร้างผลที่ตามมาที่ไม่ได้ตั้งใจในการดำเนินการเฝ้าระวัง ระบบอาจเฝ้าระวังกลุ่มชนกลุ่มน้อยหรือประชากรที่เปราะบางอย่างต่อเนื่องมากเกินไป หรือแม้แต่รั่วไหลข้อมูลการดำเนินงานที่ละเอียดอ่อนทั้งในประเทศและระหว่างประเทศ
การแข่งขันในอุตสาหกรรมเทียบกับลำดับความสำคัญด้านความปลอดภัย
การถกเถียงรอบ Grok สะท้อนความตึงเครียดที่กว้างขึ้นในอุตสาหกรรม AI ระหว่างการพัฒนาอย่างรวดเร็วและการพิจารณาความปลอดภัย แม้จะมีคำเตือนก่อนหน้านี้ของ Musk เกี่ยวกับความเสี่ยงของ AI นักวิจารณ์โต้แย้งว่า xAI ดูเหมือนจะมุ่งเน้นไปที่การแข่งขันกับคู่แข่งเช่น OpenAI มากกว่าการรับประกันการควบคุมระบบ แรงกดดันการแข่งขันนี้ตามที่ผู้สนับสนุนความปลอดภัยกล่าว สร้างแรงจูงใจที่ไม่ดีสำหรับแนวปฏิบัติการพัฒนาที่ระมัดระวัง
ในระหว่างงานเปิดตัว Grok 4 Musk ยอมรับว่าบางครั้งรู้สึกกังวลเกี่ยวกับความฉลาดที่ก้าวหน้าของ AI และผลกระทบต่อมนุษยชาติ แม้ว่าเขาจะแสดงความมองโลกในแง่ดีเกี่ยวกับผลกระทบสุดท้ายของเทคโนโลยี อย่างไรก็ตาม การปรองดองที่ชัดเจนของเขากับผลลัพธ์เชิงลบที่อาจเกิดขึ้นไม่ได้ช่วยแก้ไขความกังวลของผู้เชี่ยวชาญเกี่ยวกับแนวปฏิบัติความปลอดภัยของ xAI และความเสี่ยงที่เกี่ยวข้องกับการปรับใช้ระบบ AI ที่ไม่มีการป้องกันอย่างเพียงพอในการใช้งานรัฐบาลที่ละเอียดอ่อน