ฟีเจอร์ AI Overview ของ Google แสดงพฤติกรรมที่ไม่สม่ำเสมอเมื่อผู้ใช้ค้นหาหัวข้อทางการเมืองที่อ่อนไหว โดยเฉพาะอย่างยิ่งที่เกี่ยวข้องกับคำถามด้านสุขภาพจิตเกี่ยวกับประธานาธิบดีปัจจุบันและอดีต การบล็อกแบบเลือกสรรนี้ได้จุดประกายการอภิปรายในชุมชนเทคโนโลยีเกี่ยวกับการเซ็นเซอร์ ความรับผิดชอบขององค์กร และความท้าทายในการจัดการเนื้อหาที่สร้างโดย AI ในสภาพแวดล้อมที่มีประจุทางการเมือง
ยักษ์ใหญ่ด้านการค้นหาดูเหมือนจะใช้แนวทางที่ระมัดระวังกับคำค้นหาบางประเภท แต่การนำไปใช้ดูเหมือนจะไม่เท่าเทียมกันในบุคคลทางการเมืองที่แตกต่างกัน ในขณะที่การค้นหาบางอย่างจะแสดงข้อความมาตรฐาน An AI Overview is not available for this search แต่การค้นหาอื่น ๆ กลับให้สรุปรายละเอียดที่สร้างโดย AI ทำให้เกิดการให้บริการแบบต่อเติมที่ดึงดูดความสนใจของผู้ใช้
รูปแบบการตอบสนองของ Google ตามประเภทการค้นหา:
- คำค้นหาเกี่ยวกับสุขภาพจิตของ Trump : บล็อก AI Overview แสดงเฉพาะลิงก์
- คำค้นหาเกี่ยวกับสุขภาพจิตของ Biden : มี AI Overview พร้อมข้อจำกัดความรับผิดชอบ
- คำค้นหาเกี่ยวกับสุขภาพจิตของ Obama : มี AI Overview พร้อมข้อจำกัดความรับผิดชอบทางการแพทย์
- คำค้นหาเกี่ยวกับประธานาธิบดีทั่วไป: ผลลัพธ์แตกต่างกันขึ้นอยู่กับวิธีการเขียนคำค้นหา
ชุมชนค้นพบวิธีแก้ไขและความไม่สอดคล้องกัน
ผู้ใช้ที่มีความรู้ด้านเทคโนโลยีได้ทดลองกับการกำหนดคำค้นหาในรูปแบบต่าง ๆ และค้นพบรูปแบบที่น่าสนใจในกลไกการบล็อกของ Google บางคนพบว่าการเปลี่ยนถ้อยคำในคำถามหรือใช้คำที่กว้างขึ้นสามารถหลีกเลี่ยงข้อจำกัดได้อย่างสมบูรณ์ ชุมชนได้สังเกตว่าสถานะการเข้าสู่ระบบยังส่งผลต่อผลลัพธ์ด้วย โดยการเรียกดูแบบ incognito บางครั้งให้ผลลัพธ์ที่แตกต่างจากการค้นหาแบบเข้าสู่ระบบ
การค้นพบที่เปิดเผยอย่างหนึ่งแสดงให้เห็นว่าการถามคำถามทั่วไปเกี่ยวกับบุคคลทางการเมืองหลายคนพร้อมกันสามารถหลีกเลี่ยงการบล็อกที่ส่งผลต่อการค้นหารายบุคคลได้ สิ่งนี้ชี้ให้เห็นว่าระบบกรองของ Google อาจใช้การรวมคำหลักเฉพาะหรือการจดจำเอนทิตีที่มีชื่อเพื่อกระตุ้นข้อจำกัด
วิธีการแก้ปัญหาที่ค้นพบ:
- การใช้โหมดการเรียกดูแบบไม่ระบุตัวตนเทียบกับบัญชีที่เข้าสู่ระบบ
- การปรับเปลี่ยนคำถามเพื่อหลีกเลี่ยงคำสำคัญที่เป็นตัวกระตุ้น
- การถามเกี่ยวกับบุคคลหลายคนพร้อมกัน
- การใช้คำศัพท์ที่กว้างขึ้นและเฉพาะเจาะจงน้อยลง
แนวโน้มในอุตสาหกรรมที่กว้างขึ้นสู่การจำกัดเนื้อหาทางการเมือง
พฤติกรรมนี้สะท้อนรูปแบบที่กว้างขึ้นในแพลตฟอร์มเทคโนโลยีใหญ่ ๆ ที่บริษัทต่าง ๆ ระมัดระวังมากขึ้นเกี่ยวกับเนื้อหาทางการเมืองที่สร้างโดย AI บริการ AI หลักหลายแห่งได้นำข้อจำกัดที่คล้ายกันมาใช้ในช่วงปีที่ผ่านมา โดยได้แรงผลักดันจากความกังวลเกี่ยวกับการตอบโต้ที่อาจเกิดขึ้นและความไม่น่าเชื่อถือโดยธรรมชาติของระบบ AI เมื่อจัดการกับหัวข้อที่อ่อนไหว
บริษัทหลายแห่งกำลังบล็อกคำค้นหาทางการเมืองเพราะต้องการหลีกเลี่ยงเรื่องอื้อฉาวด้าน PR จากผู้คนที่ล่อให้ AI พูดสิ่งที่จะไปกระทบผู้นำที่รัก
แนวโน้มนี้ได้ขยายไปไกลกว่าเครื่องมือค้นหาไปยังเครื่องมือสร้างภาพและบริการ AI อื่น ๆ เนื่องจากบริษัทต่าง ๆ พยายามหลีกเลี่ยงความขัดแย้งที่อาจสร้างความเสียหายต่อชื่อเสียงหรือความสัมพันธ์ทางธุรกิจ ความท้าทายอยู่ที่การสร้างสมดุลระหว่างการเข้าถึงข้อมูลอย่างเสรีกับความจำเป็นในการป้องกันการแพร่กระจายของเนื้อหาที่สร้างโดย AI ที่อาจเป็นอันตรายหรือไม่ถูกต้อง
 |
|---|
| Donald Trump เผชิญการตรวจสอบขณะที่บริษัทต่างๆ นำทางความท้าทายของข้อจำกัดเนื้อหาทางการเมืองใน AI |
ผลกระทบทางเทคนิคและจริยธรรม
การนำข้อจำกัดเหล่านี้มาใช้อย่างไม่สม่ำเสมอทำให้เกิดคำถามเกี่ยวกับความโปร่งใสและความเป็นธรรมในการเข้าถึงข้อมูล ผู้ใช้รายงานว่าเครื่องมือค้นหาทางเลือกและเครื่องมือ AI ให้ระดับการเข้าถึงข้อมูลที่คล้ายกันในระดับที่แตกต่างกัน ซึ่งชี้ให้เห็นว่าแต่ละแพลตฟอร์มกำลังพัฒนาแนวทางของตัวเองในการจัดการกับคำค้นหาทางการเมืองที่อ่อนไหว
สถานการณ์นี้ยังเน้นย้ำถึงความท้าทายที่ยังคงดำเนินต่อไปเกี่ยวกับความน่าเชื่อถือของ AI ในโดเมนที่อ่อนไหว แม้ว่าจะมีการให้ภาพรวม AI แต่มักจะรวมถึงข้อจำกัดความรับผิดชอบเกี่ยวกับข้อจำกัดของการประเมินทางการแพทย์หรือจิตวิทยาโดยอิงจากข้อมูลสาธารณะเพียงอย่างเดียว
การอภิปรายของชุมชนเผยให้เห็นความกังวลที่เพิ่มขึ้นเกี่ยวกับการรวมศูนย์การเข้าถึงข้อมูลในมือของบริษัทเทคโนโลยีใหญ่เพียงไม่กี่แห่ง โดยเฉพาะเมื่อบริษัทเหล่านั้นตัดสินใจด้านบรรณาธิการเกี่ยวกับข้อมูลที่ระบบ AI จะสรุปและไม่สรุป เมื่อ AI กลายเป็นประตูสู่ข้อมูลที่สำคัญมากขึ้น นโยบายเนื้อหาเหล่านี้อาจมีผลกระทบที่สำคัญต่อวาทกรรมสาธารณะและกระบวนการประชาธิปไตย
อ้างอิง: Google is blocking AI searches for Trump and dementia