การตรวจสอบใหม่เผยให้เห็นว่าเครื่องมือปัญญาประดิษฐ์มีความน่าเชื่อถือในการแยกแยะข้อเท็จจริงจากเรื่องแต่งลดลงอย่างมีนัยสำคัญในช่วงปีที่ผ่านมา การศึกษาพบว่าระบบ AI ชั้นนำในปัจจุบันทำซ้ำข้อมูลเท็จมากกว่าหนึ่งในสามของเวลาเมื่อตอบคำถามเกี่ยวกับข่าว ซึ่งเพิ่มขึ้นเกือบสองเท่าจากอัตราก่อนหน้านี้
การเพิ่มขึ้นอย่างมากของข้อมูลผิดนี้เกิดจากการเปลี่ยนแปลงพื้นฐานในการทำงานของระบบ AI เมื่อเครื่องมือเหล่านี้นำการค้นหาเว็บแบบเรียลไทม์มาใช้เพื่อให้ข้อมูลที่ทันสมัยมากขึ้น พวกมันจึงเปิดช่องโหว่ให้ตัวเองถูกจัดการโดยผู้ร้ายที่ใช้ประโยชน์จากระบบนิเวศข้อมูลออนไลน์ที่ปนเปื้อนโดยไม่ได้ตั้งใจ
การเปรียบเทียบอัตราข้อมูลเท็จของ AI
- สิงหาคม 2024: อัตราข้อมูลเท็จ 18%
- สิงหาคม 2025: อัตราข้อมูลเท็จ 35%
- การเพิ่มขึ้น: เพิ่มขึ้นเกือบสองเท่า (เพิ่มขึ้น 94%)
การแลกเปลี่ยนระหว่างการตอบสนองและความแม่นยำ
การผลักดันให้แชทบอท AI มีประโยชน์มากขึ้นได้สร้างปัญหาที่ไม่คาดคิด ก่อนหน้านี้ ระบบเหล่านี้มักจะปฏิเสธที่จะตอบคำถามเกี่ยวกับเหตุการณ์ปัจจุบัน โดยอ้างถึงข้อจำกัดของข้อมูลหรือปฏิเสธที่จะแสดงความเห็นในหัวข้อที่ละเอียดอ่อน แม้ว่าจะน่าผิดหวังสำหรับผู้ใช้ แต่แนวทางที่ระมัดระวังนี้ช่วยป้องกันการแพร่กระจายของข้อมูลเท็จ
ตอนนี้ เครื่องมือ AI กระตือรือร้นที่จะให้คำตอบโดยการค้นหาเว็บแบบเรียลไทม์ การเปลี่ยนแปลงนี้ทำให้อัตราการไม่ตอบหายไปทั้งหมด โดยลดลงจาก 31% เป็น 0% ในช่วงปีที่ผ่านมา อย่างไรก็ตาม ความเต็มใจใหม่ในการตอบทุกคำถามนี้มาพร้อมกับต้นทุนที่สูงต่อความแม่นยำ
ปัญหาหลักอยู่ที่วิธีที่ระบบเหล่านี้ประเมินแหล่งข้อมูลออนไลน์ เครื่องมือ AI ต่อสู้เพื่อแยกแยะระหว่างสำนักข่าวที่น่าเชื่อถือและเว็บไซต์ที่ไม่น่าเชื่อถือ โดยปฏิบัติต่อบล็อกที่มีการมีส่วนร่วมต่ำ โพสต์โซเชียลมีเดีย และฟาร์มเนื้อหาที่สร้างโดย AI เป็นแหล่งข้อมูลที่น่าเชื่อถือเท่าเทียมกัน
การเปลี่ยนแปลงอัตราการตอบสนองของ AI
- อัตราการไม่ตอบสนองในเดือนสิงหาคม 2024: 31%
- อัตราการไม่ตอบสนองในเดือนสิงหาคม 2025: 0%
- การเปลี่ยนแปลง: การขจัดการปฏิเสธการตอบสนองอย่างสมบูรณ์
การใช้ประโยชน์โดยผู้กระทำความผิด
ผู้ร้ายได้เรียนรู้อย่างรวดเร็วในการเล่นกับระบบนี้ การดำเนินการบิดเบือนข้อมูลของ รัสเซีย และเครือข่ายอันตรายอื่น ๆ ขณะนี้เพาะปลูกข้อมูลเท็จอย่างจงใจทั่วแพลตฟอร์มออนไลน์ต่าง ๆ โดยรู้ว่าระบบ AI มีแนวโน้มที่จะรับและขยายข้อกล่าวอ้างเหล่านี้
สิ่งนี้สร้างวงจรป้อนกลับที่อันตรายซึ่งข้อมูลเท็จถูกฟอกผ่านการตอบสนองของ AI ซึ่งอาจเข้าถึงผู้ใช้หลายล้านคนที่เชื่อใจระบบเหล่านี้ในการให้ข้อมูลที่ถูกต้อง ปัญหากลายเป็นเรื่องซับซ้อนยิ่งขึ้นเมื่อเนื้อหาที่สร้างโดย AI เองกลายเป็นส่วนหนึ่งของข้อมูลการฝึกอบรมสำหรับระบบ AI ในอนาคต
องค์กรข่าวสารรายใหญ่ที่บล็อก AI Crawlers
- BBC (bbc.co.uk/robots.txt)
- CNN (cnn.com/robots.txt)
- NBC News (nbcnews.com/robots.txt)
- Google-Extended (Gemini) ก็ถูกบล็อกโดยเว็บไซต์หลายแห่งเช่นกัน
ความสงสัยของชุมชนและข้อกังวลเกี่ยวกับวิธีการ
ชุมชนเทคโนโลยีได้ตั้งคำถามสำคัญเกี่ยวกับวิธีการวัดความแม่นยำของ AI อย่างเหมาะสม นักวิจารณ์ชี้ให้เห็นว่าการกำหนดสิ่งที่ถือเป็นข้อมูลเท็จนั้นเป็นความท้าทายที่ซับซ้อนในตัวเอง โดยเฉพาะสำหรับเหตุการณ์ปัจจุบันที่ข้อเท็จจริงอาจยังคงเกิดขึ้นหรือถูกโต้แย้ง
การแยกแยะข้อเท็จจริงจากความเท็จแน่นอนไม่ใช่งานพื้นฐาน มนุษย์หลายคนมีปัญหากับมัน
ผู้ใช้บางคนรายงานประสบการณ์เชิงบวกในการใช้ AI สำหรับการตรวจสอบข้อเท็จจริง โดยเฉพาะกับระบบใหม่ที่ให้การอ้างอิงแหล่งที่มา อย่างไรก็ตาม แนวโน้มที่กว้างขึ้นแสดงให้เห็นว่าเมื่อเครื่องมือ AI มีความมั่นใจในการตอบสนองมากขึ้น พวกมันอาจจะผิดอย่างมั่นใจมากขึ้นด้วย
ความท้าทายของระบบนิเวศข้อมูลที่กว้างขึ้น
ปัญหาขยายไปเกินกว่าระบบ AI เอง องค์กรข่าวสารหลักได้เริ่มบล็อกตัวรวบรวมข้อมูล AI จากการเข้าถึงเนื้อหาของพวกเขา ทำให้ระบบเหล่านี้ต้องพึ่งพาแหล่งข้อมูลคุณภาพต่ำมากขึ้น สิ่งนี้สร้างวงจรอุบาทว์ที่เครื่องมือ AI มีการเข้าถึงข้อมูลที่เชื่อถือได้น้อยลง ในขณะที่มีการเข้าถึงเนื้อหาที่ไม่น่าเชื่อถือมากขึ้น
สถานการณ์นี้เน้นย้ำถึงความท้าทายพื้นฐานในยุคของปัญญาประดิษฐ์: การสร้างสมดุลระหว่างความปรารถนาสำหรับระบบที่มีประโยชน์และตอบสนองกับความต้องการข้อมูลที่ถูกต้องและน่าเชื่อถือ เมื่อเครื่องมือ AI กลายเป็นส่วนหนึ่งของวิธีที่ผู้คนบริโภคข่าวและข้อมูลมากขึ้น การแก้ไขปัญหาความแม่นยำเหล่านี้กลายเป็นสิ่งสำคัญมากขึ้นสำหรับการรักษาวาทกรรมสาธารณะที่มีข้อมูล
อ้างอิง: AI False Information Rate Nearly Doubles in One Year