ปัญญาประดิษฐ์ได้กลายเป็นเครื่องมือที่ทรงพลังสำหรับทั้งนวัตกรรมและการจัดการ ขณะที่รายงานความปลอดภัยล่าสุดของ OpenAI เผยให้เห็นด้านมืดของการนำ AI มาใช้โดยผู้กระทำการที่เป็นอันตราย บริษัทผู้อยู่เบื้องหลัง ChatGPT ได้ระบุและรื้อถอนแคมเปญที่ประสานงานกันหลายแคมเปญที่กลุ่มที่ได้รับการสนับสนุนจากรัฐใช้เทคโนโลยี AI เพื่อเผยแพร่โฆษณาชวนเชื่อ จัดการความคิดเห็นของสาธารณชน และดำเนินปฏิบัติการอิทธิพลที่ซับซ้อนผ่านแพลตฟอร์มทั่วโลก
การใช้ประโยชน์จาก AI ที่ได้รับการสนับสนุนจากรัฐถึงจุดสูงสุดใหม่
รายงาน Disrupting malicious uses of AI: June 2025 ของ OpenAI บันทึกว่าบริษัทประสบความสำเร็จในการขัดขวางแคมเปญที่เป็นอันตรายสิบแคมเปญแยกต่างหากในช่วงไม่กี่เดือนแรกของปี 2025 ปฏิบัติการเหล่านี้แสดงถึงการเพิ่มขึ้นอย่างมีนัยสำคัญในวิธีที่ระบอบเผด็จการใช้เทคโนโลยี AI เป็นอาวุธเพื่ออิทธิพลทางภูมิรัฐศาสตร์ แคมเปญเหล่านี้กำหนดเป้าหมายทุกอย่างตั้งแต่การหลอกลวงเรื่องการจ้างงานไปจนถึงปฏิบัติการทางสังคมที่ซับซ้อนที่ออกแบบมาเพื่อบ่อนทำลายกระบวนการประชาธิปไตยและหว่านเมล็ดพันธุ์ความแตกแยกในประเทศเป้าหมาย
แคมเปญที่ถูกขัดขวางจำแนกตามประเทศต้นทาง:
- China: 4 แคมเปญ (รวมถึง " Sneer Review " และ " Uncle Spam ")
- Russia: หลายแคมเปญ (รวมถึง " Helgoland Bite ")
- Iran: หลายแคมเปญ
- North Korea: หลายแคมเปญ
- รวมที่ถูกขัดขวาง: 10 แคมเปญในช่วงไม่กี่เดือนแรกของปี 2025
ปฏิบัติการของจีนกำหนดเป้าหมาย Taiwan และวาทกรรมการเมือง US
สี่ในแคมเปญที่ถูกขัดขวางมาจาก China โดยแสดงให้เห็นยุทธวิธีที่ซับซ้อนที่ผสมผสานเนื้อหาที่สร้างโดย AI กับการบิดเบือนข้อมูลเชิงกลยุทธ์ ปฏิบัติการ Sneer Review กำหนดเป้าหมายเฉพาะการเป็นอิสระของ Taiwan โดยการท่วมท้นรีวิวของบอร์ดเกม Reversed Front ด้วยความคิดเห็นที่วิพากษ์วิจารณ์ที่สร้างโดย AI จากนั้นนักแสดงชาวจีนใช้ประโยชน์จากรีวิวที่ปลอมแปลงเหล่านี้เพื่อสร้างบทความที่อ้างว่ามีการต่อต้านอย่างกว้างขวางต่อเกมซึ่งแสดงให้เห็นการต่อต้านพรรคคอมมิวนิสต์จีน แนวทางหลายชั้นนี้แสดงให้เห็นว่า AI สามารถขยายความขัดแย้งที่ผลิตขึ้นเพื่อบรรลุวัตถุประสงค์ทางการเมืองได้อย่างไร
นักแสดงรัสเซียใช้ ChatGPT เพื่อแทรกแซงการเลือกตั้งเยอรมัน
แคมเปญ Helgoland Bite เผยให้เห็นความพยายามของรัสเซียในการมีอิทธิพลต่อการเมืองเยอรมันผ่านเนื้อหาภาษาเยอรมันที่สร้างโดย AI ที่วิพากษ์วิจารณ์ United States และ NATO สายลับรัสเซียใช้ ChatGPT ไม่เพียงแต่เพื่อสร้างสื่อโฆษณาชวนเชื่อเท่านั้น แต่ยังเพื่อระบุนักเคลื่อนไหวฝ่ายค้านและบล็อกเกอร์เพื่อกำหนดเป้าหมายด้วย ช่วงเวลาของแคมเปญตรงกับรอบการเลือกตั้งของ Germany ในปี 2025 ซึ่งเน้นย้ำว่าเครื่องมือ AI กำลังถูกใช้เป็นอาวุธเพื่อแทรกแซงกระบวนการประชาธิปไตยในหลายประเทศพร้อมกัน
แคมเปญ Uncle Spam ใช้ประโยชน์จากความแตกแยกทางการเมือง US
บางทีที่น่ากังวลที่สุดสำหรับผู้ชมชาวอเมริกัน ปฏิบัติการ Uncle Spam แสดงให้เห็นว่านักแสดงชาวจีนใช้ ChatGPT เพื่อสร้างเนื้อหาที่แบ่งแยกอย่างมากที่มุ่งขยายความขั้วโลกทางการเมืองใน United States แคมเปญสร้างบัญชีโซเชียลมีเดียที่โต้เถียงทั้งเห็นด้วยและไม่เห็นด้วยกับหัวข้อที่ขัดแย้งเช่นภาษี ขณะเดียวกันก็สร้างหน้าสนับสนุนทหารผ่านศึกปลอมเพื่อสร้างความน่าเชื่อถือ แนวทางของการสร้างเนื้อหาในหลายด้านของประเด็นที่แบ่งแยกนี้แสดงถึงความเข้าใจที่ซับซ้อนเกี่ยวกับวิธีการเพิ่มความขัดแย้งทางสังคมให้สูงสุดผ่านการจัดการที่สร้างโดย AI
ยุทธวิธีขั้นสูงรวมถึงการประเมินผลการปฏิบัติงานและการเข้าถึงเป้าหมาย
ความซับซ้อนของปฏิบัติการเหล่านี้ขยายไปเกินกว่าการสร้างเนื้อหาอย่างง่าย นักโฆษณาชวนเชื่อชาวจีนสร้างการประเมินผลการปฏิบัติงานที่มีรายละเอียดซึ่งบันทึกการใช้ ChatGPT ของพวกเขาสำหรับปฏิบัติการอิทธิพล โดยถือว่าการจัดการ AI เป็นองค์กรระดับมืออาชีพที่มีผลลัพธ์ที่วัดได้ นอกจากนี้ นักแสดงเหล่านี้ใช้เทคโนโลยีของ OpenAI เพื่อสร้างอีเมลที่กำหนดเป้าหมายไปยังนักข่าว นักวิเคราะห์ และนักการเมืองภายใต้ข้ออ้างที่เป็นเท็จ โดยพยายามสร้างความสัมพันธ์และดึงข้อมูลที่ละเอียดอ่อนผ่านวิศวกรรมสังคมที่เสริมด้วย AI
กลยุทธ์และเป้าหมายของแคมเปญ:
- การหลอกลวงด้านการจ้างงานและการดำเนินงานเพื่อสร้างอิทธิพล
- การจัดการสื่อสังคมออนไลน์และการสร้างบัญชีปลอม
- การแปลและการสร้างเนื้อหาในหลายภาษา
- การเข้าถึงเป้าหมายเฉพาะต่อนักข่าว นักวิเคราะห์ และนักการเมือง
- เอกสารการประเมินผลการทำงานของการใช้ AI ในทางที่ผิด
- การส่งข้อความที่ประสานงานกันข้ามแพลตฟอร์ม
ภูมิทัศน์ภัยคุกคามที่เติบโตครอบคลุมหลายประเทศ
Ben Nimmo หัวหน้านักสืบสวนของทีมข่าวกรองและการสืบสวนของ OpenAI เน้นย้ำว่า China เป็นเพียงส่วนหนึ่งของภูมิทัศน์ภัยคุกคามที่กว้างขึ้น รายงานระบุกิจกรรมที่เป็นอันตรายที่คล้ายคลึงกันจาก Russia, Iran และ North Korea ซึ่งบ่งชี้ว่าปฏิบัติการอิทธิพลที่ขับเคลื่อนด้วย AI ได้กลายเป็นเครื่องมือมาตรฐานในคลังแสงสงครามดิจิทัลของระบอบเผด็จการ การนำ AI มาใช้เพื่อวัตถุประสงค์ที่เป็นอันตรายในระดับโลกนี้นำเสนอความท้าทายที่ไม่เคยมีมาก่อนสำหรับทั้งบริษัทเทคโนโลยีและสถาบันประชาธิpไตย
รายละเอียดแคมเปญเฉพาะ:
- ** Sneer Review **: มุ่งเป้าไปที่บอร์ดเกม " Reversed Front " ของไทยด้วยรีวิวเชิงลบปลอม
- ** Helgoland Bite **: ปฏิบัติการของ รัสเซีย สร้างเนื้อหาภาษาเยอรมันต่อต้าน สหรัฐฯ / NATO สำหรับการเลือกตั้งเยอรมันปี 2025
- ** Uncle Spam **: ปฏิบัติการของ จีน สร้างเนื้อหาการเมืองสหรัฐฯที่สร้างความแตกแยกและหน้าเพจสนับสนุนทหารผ่านศึกปลอม
ผลกระทบต่อความสมบูรณ์ของข้อมูลออนไลน์
การค้นพบของ OpenAI ทำหน้าที่เป็นการเตือนที่รุนแรงว่าความถูกต้องของเนื้อหาออนไลน์ไม่สามารถสันนิษฐานได้อีกต่อไป รายงานของบริษัทเตือนว่าบุคคลที่มีส่วนร่วมกับเนื้อหาที่ขัดแย้งออนไลน์อาจมีปฏิสัมพันธ์กับสื่อที่สร้างโดย AI ที่ออกแบบมาเพื่อกระตุ้นการตอบสนองทางอารมณ์เฉพาะโดยไม่รู้ตัว ความเป็นจริงนี้ท้าทายพื้นฐานว่าพลเมืองบริโภคและประเมินข้อมูลในยุคดิจิทัลอย่างไร โดยต้องการทักษะการรู้เท่าทันสื่อและการคิดเชิงวิพากษ์ในระดับใหม่เพื่อนำทางสภาพแวดล้อมข้อมูลที่ถูกจัดการมากขึ้น