หน่วยบัญชาการปฏิบัติการพิเศษของสหรัฐฯ ( SOCOM ) กำลังแสวงหาผู้รับเหมาเพื่อพัฒนาระบบ AI ขั้นสูงที่สามารถดำเนินการสงครามข้อมูลขนาดใหญ่ในต่างประเทศ ตามเอกสารที่รั่วไหลจาก Pentagon เทคโนโลยีนี้จะใช้ประโยชน์จาก agentic AI และโมเดลภาษาขนาดใหญ่หลายตัวเพื่อมีอิทธิพลต่อผู้ชมต่างประเทศในขณะที่ปราบปรามมุมมองที่ขัดแย้ง
การเปิดเผยนี้ได้จุดประกายการถกเถียงอย่างเข้มข้นในชุมชนเทคโนโลยีเกี่ยวกับผลกระทบของการโฆษณาชวนเชื่อด้วย AI ที่รัฐบาลสนับสนุน และว่าระบบที่คล้ายกันอาจกำลังดำเนินการอยู่ในประเทศแล้วหรือไม่
 |
|---|
| Pentagon กำลังสำรวจระบบ AI ขั้นสูงที่มุ่งเป้าไปที่การดำเนินสงครามข้อมูลขนาดใหญ่ ทำให้เกิดการถกเถียงเกี่ยวกับผลกระทบของ AI ในด้าน propaganda ทางการทหาร |
ระบบ Agentic AI สำหรับปฏิบัติการข้อมูลทางทหาร
รายการความต้องการของ Pentagon รวมถึงซอฟต์แวร์แมชชีนเลิร์นนิงที่ออกแบบมาเพื่อทำงานโดยมีการดูแลจากมนุษย์เพียงเล็กน้อย ระบบ agentic เหล่านี้จะทำงานร่วมกับโมเดลภาษาขนาดใหญ่เพื่อเพิ่มขนาดของ Military Information Support Operations ( MISO ) อย่างมาก เทคโนโลยีนี้แสดงถึงการก้าวกระโดดที่สำคัญจากวิธีการโฆษณาชวนเชื่อแบบดั้งเดิม ซึ่งอาจเปิดใช้งานแคมเปญอิทธิพลอัตโนมัติและเป็นส่วนตัวในหลายแพลตฟอร์มพร้อมกัน
หมายเหตุ: Agentic AI หมายถึงระบบปัญญาประดิษฐ์ที่ออกแบบมาเพื่อทำงานอย่างอิสระโดยมีการดูแลจากมนุษย์เพียงเล็กน้อย โดยตัดสินใจและดำเนินการเพื่อบรรลุเป้าหมายที่กำหนด
ข้อมูลจำเพาะระบบ AI เพื่อการโฆษณาชวนเชื่อของ Pentagon :
- เทคโนโลยี: Agentic AI พร้อมระบบ multi-LLM agent
- วัตถุประสงค์: ปฏิบัติการสนับสนุนข้อมูลทางทหาร ( MISO )
- เป้าหมาย: ผู้ชมต่างชาติในต่างประเทศ
- กรอบเวลา: 5-7 ปีสำหรับการนำไปใช้งาน
- การดำเนินงาน: ต้องการการควบคุมดูแลจากมนุษย์เพียงเล็กน้อย
- ขนาด: ออกแบบมาเพื่อเพิ่มขีดความสามารถในการดำเนินปฏิบัติการอิทธิพลอย่างมาก
ความกังวลของชุมชนเกี่ยวกับการใช้งานในประเทศ
ผู้สังเกตการณ์ในอุตสาหกรรมเทคโนโลยีกำลังตั้งคำถามว่าเทคโนโลยีนี้อาจถูกใช้ในประเทศหรือไม่ แม้จะมีข้อจำกัดทางกฎหมาย การอภิปรายได้เน้นถึงแบบอย่างทางประวัติศาสตร์ รวมถึง Operation Mockingbird จากยุคสงครามเย็นและการเปลี่ยนแปลงทางกฎหมายล่าสุดที่ปรับเปลี่ยนข้อจำกัดการโฆษณาชวนเชื่อ
เป็นความเข้าใจผิดทั่วไปที่ผู้คนมีว่าการโฆษณาชวนเชื่อนั้นไม่เป็นความจริง เช่นเดียวกับสารคดีที่ดี การเลือกชุดข้อเท็จจริงที่เป็นจริงและเป็นกลางเพื่อแทรกเข้าไปในความสนใจและการเล่าเรื่องของคนๆ หนึ่งสามารถรับใช้วาระได้อย่างสมบูรณ์แบบ
สมาชิกชุมชนหลายคนชี้ไปที่การแก้ไข National Defense Authorization Act ปี 2013 ที่ปรับเปลี่ยน Smith-Mundt Act อย่างมีประสิทธิภาพ ซึ่งก่อนหน้านี้ห้ามการโฆษณาชวนเชื่อของรัฐบาลที่มุ่งเป้าไปยังพลเมืองอเมริกัน การเปลี่ยนแปลงได้สร้างพื้นที่สีเทาเกี่ยวกับสิ่งที่ถือเป็นเนื้อหาที่มุ่งเป้าต่างประเทศในโลกดิจิทัลที่เชื่อมต่อกัน
บริบททางประวัติศาสตร์ - การดำเนินงานด้านข้อมูลของสหรัฐอมेริกา:
- Operation Mockingbird: โครงการอิทธิพลสื่อในยุคสงครามเย็น
- Smith-Mundt Act (1948): เดิมทีห้ามการโฆษณาชวนเชื่อในประเทศ
- การแก้ไข NDAA ปี 2013: ปรับเปลี่ยนข้อจำกัดเกี่ยวกับการดำเนินงานด้านข้อมูลของรัฐบาล
- Disinformation Governance Board: ความพยายามล่าสุดในการควบคุมข้อมูล (ยกเลิกแล้ว)
บริบทโลกและภูมิทัศน์การแข่งขัน
ความคิดริเริ่มของ Pentagon เกิดขึ้นในขณะที่ประเทศอื่นๆ ได้นำความสามารถที่คล้ายกันมาใช้แล้ว 50 Cent Party ของจีนได้ดำเนินแคมเปญอิทธิพลออนไลน์ที่ประสานงานกันมาหลายปี ในขณะที่รัฐบาลต่างๆ ได้ใช้ทั้งผู้ปฏิบัติงานมนุษย์และระบบอัตโนมัติเพื่อสร้างความคิดเห็นของประชาชน
ผู้เชี่ยวชาญในอุตสาหกรรมระบุว่าบริษัทเอกชนและนักแสดงต่างประเทศน่าจะใช้ AI สำหรับปฏิบัติการอิทธิพลอยู่แล้ว ทำให้การมีส่วนร่วมของรัฐบาลดูเป็นสิ่งที่หลีกเลี่ยงไม่ได้มากกว่าที่จะน่าแปลกใจ ความกังวลหลักไม่ใช่ว่าระบบดังกล่าวจะมีอยู่หรือไม่ แต่เป็นวิธีการควบคุมและควบคุม
การเปรียบเทียบระหว่างประเทศ - การดำเนินงานด้านอิทธิพลของรัฐบาล:
- 50 Cent Party ของ China: แคมเปญอิทธิพลออนไลน์ที่มีการประสานงาน
- การโฆษณาชวนเชื่อของ USSR: การควบคุมข้อมูลของรัฐในอดีต
- สถานะปัจจุบัน: หลายประเทศดำเนินการระบบอิทธิพล
- ภาคเอกชน: บริษัทต่างๆ ใช้ AI เพื่อการตลาดและการสร้างอิทธิพลอยู่แล้ว
ผลกระทบทางเทคนิคและจริยธรรม
ระบบที่เสนอจะแสดงถึงการเพิ่มขึ้นอย่างมีนัยสำคัญในความสามารถของสงครามข้อมูล ไม่เหมือนกับแคมเปญที่มนุษย์ปฏิบัติการ ระบบ AI อาจสร้างและแจกจ่ายเนื้อหาในระดับและความเร็วที่ไม่เคยมีมาก่อน พวกเขาสามารถปรับข้อความในเวลาจริงตามการตอบสนองของผู้ชมและรักษาการดำเนินงานที่สอดคล้องกันในเขตเวลาและภาษาต่างๆ
เทคโนโลยีนี้ทำให้เกิดคำถามพื้นฐานเกี่ยวกับความถูกต้องของดิจิทัลและอนาคตของวาทกรรมออนไลน์ เมื่อระบบ AI มีความซับซ้อนมากขึ้น การแยกแยะระหว่างเนื้อหาที่มนุษย์สร้างและเนื้อหาที่เครื่องสร้างจะยากขึ้น ซึ่งอาจบ่อนทำลายความไว้วางใจในการสื่อสารดิจิทัลทั้งหมด
ไทม์ไลน์ของ Pentagon แสดงให้เห็นว่าความสามารถเหล่านี้สามารถใช้งานได้ภายในห้าถึงเจ็ดปี ซึ่งตรงกับความก้าวหน้าที่คาดหวังในเทคโนโลยี AI และความสำคัญที่เพิ่มขึ้นของสงครามข้อมูลในความขัดแย้งสมัยใหม่
อ้างอิง: PENTAGON DOCUMENT: U.S. WANTS TO SUPPRESS DISSENTING ARGUMENTS USING AI PROPAGANDA