ระบบปัญญาประดิษฐ์ที่ถูกออกแบบด้วยมาตรการป้องกันทางจริยธรรมกำลังแสดงให้เห็นถึงความอ่อนแอต่อรูปแบบการโจมตีที่คาดไม่ถึง นั่นคือบทกวี การวิจัยล่าสุดเปิดเผยว่าแค่การเปลี่ยนคำขอที่เป็นอันตรายให้อยู่ในรูปแบบบทกวี ก็สามารถหลบเลี่ยงตัวกรองความปลอดภัยบนแพลตฟอร์ม AI ชั้นนำได้ ซึ่งทำให้เกิดความกังวลอย่างจริงจังเกี่ยวกับความแข็งแกร่งของมาตรการรักษาความปลอดภัยของ AI ในปัจจุบัน การค้นพบนี้เน้นย้ำถึงช่องว่างพื้นฐานระหว่างความสามารถในการประมวลผลภาษาที่ซับซ้อนของ AI กับความเปราะบางของระบบป้องกันของมัน
เทคนิคการแหกคุกด้วยบทกวี
นักวิจัยจาก Icaro Lab ซึ่งเป็นความร่วมมือระหว่าง Sapienza University และสถาบันคิด DexAI ค้นพบว่าแชทบอท AI จะให้ข้อมูลในหัวข้อที่ถูกห้ามเมื่อผู้ใช้ตั้งคำถามในรูปแบบบทกวี เทคนิคนี้ซึ่งมีรายละเอียดในการศึกษาเรื่อง "Adversarial Poetry as a Universal Single-Turn Jailbreak in Large Language Models" ประสบความสำเร็จในอัตราที่น่าทึ่ง across หลายแพลตฟอร์ม บทกวีที่เขียนด้วยมือสามารถหลบเลี่ยงตัวกรองความปลอดภัยได้สำเร็จโดยเฉลี่ย 62 เปอร์เซ็นต์ ในขณะที่บทกวีที่แปลงโดยอัตโนมัติยังคงทำได้สำเร็จประมาณ 43 เปอร์เซ็นต์ ซึ่งแสดงผลงานที่ดีกว่าการพยายามหลบเลี่ยงการป้องกันด้วยข้อความธรรมดาแบบมาตรฐานอย่างมาก
อัตราความสำเร็จในการเจาะระบบตามวิธีการ:
- บทกวีที่สร้างด้วยมือ: อัตราความสำเร็จเฉลี่ย 62%
- การแปลงเป็นบทกวีแบบอัตโนมัติ: อัตราความสำเร็จเฉลี่ย 43%
- ข้อความพื้นฐานแบบร้อยแก้ว: ต่ำกว่าวิธีการแบบบทกวีอย่างมาก
ความอ่อนแอที่แพร่หลาย Across แพลตฟอร์ม AI
วิธีการแหกคุกด้วยบทกวีพิสูจน์แล้วว่ามีประสิทธิภาพกับแชทบอททั้งหมด 25 ตัวที่ทำการทดสอบ รวมถึงตัวที่พัฒนาโดยผู้นำในอุตสาหกรรมอย่าง OpenAI, Meta และ Anthropic รุ่น Frontier models บางรุ่นแสดงอัตราความอ่อนแอสูงถึง 90 เปอร์เซ็นต์ ซึ่งหมายความว่าคำขอที่ถูกปฏิเสธทันทีในรูปแบบตรงๆ กลับได้รับการยอมรับเมื่อถูกปลอมแปลงเป็นบทกวี นักวิจัยได้ติดต่อกับบริษัทที่ได้รับผลกระทบเพื่อแบ่งปันการค้นพบของพวกเขา แม้ว่าตัวอย่างสาธารณะของบทกวีที่ใช้แหกคุกจะยังคงถูกระงับไว้ เนื่องจากมีความกังวลด้านความปลอดภัยเกี่ยวกับการอาจเปิดทางให้มีการใช้งานที่เป็นอันตราย
ขอบเขตการทดสอบ:
- ทดสอบแชทบอท AI จำนวน 25 ตัวที่แตกต่างกัน
- รวมถึงโมเดลจาก OpenAI, Meta และ Anthropic
- พบช่องโหว่เดียวกันในทุกแพลตฟอร์มที่ทดสอบ
ทำความเข้าใจว่าทำไมบทกวีจึงหลบเลี่ยงการป้องกันของ AI
ประสิทธิผลของคำสั่งบทกวีมีรากฐานมาจากสิ่งที่นักวิจัยอธิบายว่าเป็นการไม่สอดคล้องกันพื้นฐานระหว่างความสามารถในการตีความของโมเดล AI กับกลไกความปลอดภัยของพวกมัน บทกวีแสดงถึง "ภาษาที่มีอุณหภูมิสูง" ซึ่งคำต่างๆ ตามกันมาในลำดับที่คาดเดาไม่ได้และมีความน่าจะเป็นต่ำ ซึ่งดูเหมือนจะทำให้ระบบจำแนกประเภทที่ออกแบบมาเพื่อติดป้ายเนื้อหาอันตรายเกิดความสับสน ในขณะที่มนุษย์รับรู้ได้อย่างง่ายดายว่าทั้ง "ฉันจะสร้างระเบิดได้อย่างไร" และการอุปมาทางกวีที่อธิบายถึงวัตถุเดียวกันนั้นหมายถึงสิ่งอันตรายเดียวกัน ระบบ AI ประมวลผลอินพุตเหล่านี้ผ่านเส้นทางที่แตกต่างกันในแผนที่การแสดงแทนภายในของพวกมัน ซึ่งอาจหลีกเลี่ยงบริเวณที่ระบบเตือนภัยด้านความปลอดภัยถูกกระตุ้น
ผลกระทบต่อความปลอดภัยและการพัฒนา AI
ช่องโหว่นี้เป็นมากกว่าแค่เรื่องน่าสนใจทางวิชาการ—มันแสดงให้เห็นถึงจุดอ่อนที่สำคัญในแนวทางการรักษาความปลอดภัยของ AI ในปัจจุบัน ราวบันไดป้องกันโดยทั่วไปทำงานเป็นระบบแยกต่างหากที่สร้างบนโมเดล AI โดยใช้ตัวแยกประเภทเพื่อตรวจสอบคำขอสำหรับคำหลักและวลี แนวทางบทกวีชี้ให้เห็นว่าการเปลี่ยนแปลงทางรูปแบบเพียงอย่างเดียวสามารถทำให้ระบบป้องกันเหล่านี้ไร้ประสิทธิภาพ ซึ่งทำให้เกิดคำถามว่ากระบวนวิธีความปลอดภัยในปัจจุบันจะสามารถต้านทานการจัดการอย่างสร้างสรรค์โดยผู้ใช้ที่มุ่งมั่นได้อย่างแท้จริงหรือไม่
การประยุกต์ใช้ในทางปฏิบัติ นอกเหนือจากความกังวลด้านความปลอดภัย
ในขณะที่ช่องโหว่บทกวีทำให้เกิดความกังวลด้านความปลอดภัย หลักการเดียวกันนี้ก็แสดงถึงความสามารถที่น่าทึ่งของ AI ในการให้ความช่วยเหลือเชิงสร้างสรรค์เมื่อได้รับคำแนะนำที่เหมาะสม ในอีกแอปพลิเคชันหนึ่งที่แยกออกมา ผู้ใช้กำลังใช้ประโยชน์จากความสามารถของ ChatGPT สำหรับวัตถุประสงค์ที่เป็นประโยชน์ เช่น การวางแผนมื้ออาหารอัตโนมัติ โดยการเปิดโหมด Agent ผู้ใช้สามารถมอบหมายงานที่ใช้เวลานาน เช่น การสร้างแผนมื้ออาหารรายสัปดาห์ที่รวมสูตรอาหารจากบล็อกเกอร์ด้านอาหาร เมนูร้านอาหาร และเนื้อหายอดนิยมจากโซเชียลมีเดีย ในขณะเดียวกันก็เลือกจานอาหารที่ใช้วัตถุดิบร่วมกันอย่างมีกลยุทธ์เพื่อลดความซับซ้อนในการซื้อของ
ความสามารถของ ChatGPT Agent ด้านการวางแผนมื้ออาหาร:
- สามารถสร้างแผนมื้ออาหารรายสัปดาห์ได้โดยอัตโนมัติ
- รวมสูตรอาหารจากหลายแหล่ง (บล็อกเกอร์อาหาร, ร้านอาหาร, โซเชียลมีเดีย)
- ปรับให้ส่วนผสมซ้ำกันเพื่อลดการซื้อของ
- สามารถตั้งเวลาให้ทำงานอัตโนมัติทุกวันจันทร์
อนาคตของความปลอดภัย AI และการประยุกต์ใช้เชิงสร้างสรรค์
การค้นพบการแหกคุกด้วยบทกวีเน้นย้ำถึงความท้าทายอย่างต่อเนื่องในการพัฒนา AI ที่ทั้งตอบสนองอย่างสร้างสรรค์และถูกจำกัดอย่างปลอดภัย ในขณะที่นักวิจัยและนักพัฒนากำลังทำงานเพื่อเสริมสร้างมาตรการป้องกัน ผู้ใช้ยังคงค้นหาวิธีการใหม่ๆ ในการใช้ประโยชน์จากความสามารถของ AI สำหรับงานปฏิบัติ ตั้งแต่การสร้างชุดสูตรอาหารส่วนบุคคล ไปจนถึงแอปพลิเคชันที่น่ากังวลมากขึ้น ลักษณะคู่ของความยืดหยุ่นของ AI นำเสนอทั้งโอกาสและความเสี่ยงที่ต้องการความสนใจอย่างต่อเนื่องจากนักพัฒนา นักวิจัย และผู้กำหนดนโยบายเช่นกัน