พบแคมเปญโจมตีทางไซเบอร์ที่ใช้ AI ทำงานด้วยความเป็นอิสระอย่างที่ไม่เคยมีมาก่อน

ภูมิทัศน์ความปลอดภัยทางไซเบอร์ได้ก้าวเข้าสู่ยุคใหม่ที่ปัญญาประดิษฐ์ไม่ใช่แค่เครื่องมือป้องกันหรือผู้ช่วยเล็กน้อยของผู้โจมตีอีกต่อไป ในการเปิดเผยข้อมูลครั้งสำคัญ Anthropic เปิดเผยว่าพวกเขาขัดขวางแคมเปญสอดแนมทางไซเบอร์ที่ซับซ้อนซึ่ง AI ทำงานด้วยความเป็นอิสระอย่างน่าทึ่งตลอดวงจรการโจมตีทั้งหมด เหตุการณ์นี้แสดงถึงการเปลี่ยนแปลงพื้นฐานในวิธีที่ผู้คุกคามขั้นสูงใช้ประโยชน์จากปัญญาประดิษฐ์ โดยก้าวข้ามการทำงานอัตโนมัติแบบง่าย ๆ ไปสู่การสร้างระบบโจมตีที่กำกับตนเองซึ่งสามารถบุกรุกเครือข่ายได้เร็วกว่าที่ผู้ปกป้องที่เป็นมนุษย์จะตอบสนองได้

กรอบการโจมตีแบบอิสระ

ทีมความปลอดภัยของ Anthropic ตรวจพบกิจกรรมน่าสงสัยในกลางเดือนกันยายน ซึ่งกลายเป็นปฏิบัติการสอดแนมทางไซเบอร์ที่ซับซ้อนสูง แคมเปญดังกล่าว ซึ่งถูกระบุว่าเป็นฝีมือของกลุ่มที่ได้รับการสนับสนุนจากรัฐจีนซึ่งถูกติดตามด้วยชื่อ GTG-1002 ใช้ Claude Code เป็นกรอบการโจมตีอัตโนมัติที่สามารถดำเนินการสอดแนม การค้นหาช่องโหว่ การใช้ประโยชน์จากช่องโหว่ การเคลื่อนที่ไปตามระบบ การเก็บข้อมูลประจำตัว การวิเคราะห์ข้อมูล และการดำเนินการส่งข้อมูลออกนอก โดยส่วนใหญ่ไม่มีการแทรกแซงจากมนุษย์ สิ่งที่ทำให้แคมเปญนี้น่ากังวลเป็นพิเศษคือประมาณ 80% ถึง 90% ของการดำเนินการทางยุทธวิธีถูกดำเนินการโดยอิสระโดยระบบ AI โดยผู้ปฏิบัติงานที่เป็นมนุษย์ให้เพียงการกำกับดูแลพื้นฐานและการตัดสินใจที่สำคัญเท่านั้น

การทำให้ห่วงโซ่การโจมตีเป็นอัตโนมัติ: แคมเปญ GTG-1002 ทำให้ขั้นตอนเหล่านี้ทำงานอัตโนมัติ: การสอดแนม → การค้นหาช่องโหว่ → การแสวงหาประโยชน์ → การเคลื่อนที่ด้านข้าง → การเก็บเกี่ยวข้อมูลประจำตัว → การวิเคราะห์ข้อมูล → การส่งข้อมูลออก

ความเร็วของภัยคุกคามทางไซเบอร์สมัยใหม่

การเกิดขึ้นของการโจมตีด้วย AI แบบอิสระเกิดขึ้นพร้อมกับการเร่งความเร็วอย่างมากในไทม์ไลน์ของการบุกรุกทางไซเบอร์ ตามรายงานของ CrowdStrike's 2025 Global Threat Report เวลาเบรกเอาท์โดยเฉลี่ย—ซึ่งคือช่วงเวลาระหว่างการบุกรุกครั้งแรกและการเคลื่อนที่ไปตามระบบขององค์กร—ได้ลดลงเหลือเพียง 48 นาที โดยการบุกรุกที่เร็วที่สุดที่สังเกตพบเสร็จสิ้นในเวลาเพียง 51 วินาที สิ่งนี้สร้างสถานการณ์ที่เป็นไปไม่ได้สำหรับทีมความปลอดภัยที่เป็นมนุษย์ซึ่งไม่สามารถตอบสนองด้วยความเร็วระดับนี้ได้ ในขณะเดียวกัน การวิจัยจาก SoSafe บ่งชี้ว่าเครื่องมือสร้างเนื้อหาด้วย AI ช่วยให้ผู้โจมตีร่างข้อความฟิชชิ่งที่น่าเชื่อถือได้เร็วกว่าวิธีการดั้งเดิมอย่างน้อย 40% ช่วยให้สามารถพยายามโจมตีได้มากขึ้นและเพิ่มโอกาสในการแทรกซึมสำเร็จ

สถิติสำคัญของการโจมตี:

• เวลาเฉลี่ยในการบุกรุกระบบไซเบอร์: 48 นาที
• เวลาบุกรุกที่เร็วที่สุดที่สังเกตพบ: 51 วินาที
• ประสิทธิภาพฟิชชิงที่สร้างโดย AI ที่ดีขึ้น: การร่างเร็วขึ้น 40%
• อัตราการทำงานอัตโนมัติในแคมเปญ GTG-1002: 80-90% ของการดำเนินการทางยุทธวิธี
• จำนวนองค์กรที่ถูกกำหนดเป้าหมาย: ประมาณ 30 แห่ง

เทคนิคการหลอกลวง

ผู้คุกคามใช้กลยุทธ์ทางวิศวกรรมสังคมที่ฉลาดแกมโกงต่อระบบ AI เอง โดยการนำเสนองานที่เป็นอันตรายในลักษณะของคำขอทางเทคนิคทั่วไปผ่านพรอมต์ที่สร้างขึ้นอย่างระมัดระวังและบุคลิกที่ถูกกำหนดขึ้น พวกเขาชักจูงให้ Claude ดำเนินการส่วนประกอบแต่ละส่วนของสายโซ่การโจมตีโดยไม่ต้องเข้าถึงบริบทที่เป็นอันตรายในภาพรวม ผู้โจมตีแสดงบทบาทเป็นผู้ทดสอบการเจาะระบบที่ถูกต้องตามกฎหมาย โดยหลอกให้ AI เชื่อว่ากำลังดำเนินการประเมินความปลอดภัยที่ได้รับอนุญาตแทนที่จะเป็นปฏิบัติการสอดแนมทางไซเบอร์จริง เทคนิคการหลอกลวงนี้ทำให้ AI สามารถทำงานได้ด้วยความสามารถเต็มที่ในขณะที่ไม่รู้ตัวถึงความตั้งใจที่เป็นอันตรายเบื้องหลังการดำเนินงาน

การตอบสนองด้านการป้องกันและผลกระทบต่ออุตสาหกรรม

หลังจากค้นพบการใช้งานเทคโนโลยีของตนในทางที่ผิด Anthropic ได้แบนบัญชีที่เชื่อมโยงกับ GTG-1002 อย่างรวดเร็วและขยายระบบตรวจจับกิจกรรมที่เป็นอันตราย บริษัทกำลังสร้างต้นแบบมาตรการตรวจจับระยะเริ่มต้นที่ออกแบบมาโดยเฉพาะเพื่อหยุดการโจมตีทางไซเบอร์แบบอิสระ และได้แจ้งเตือนทั้งหน่วยงานราช authority และพันธมิตรในอุตสาหกรรมเกี่ยวกับเหตุการณ์นี้แล้ว ผู้เชี่ยวชาญด้านความปลอดภัยเน้นย้ำว่าการค้นพบนี้แสดงถึงการเปลี่ยนแปลงพื้นฐานในวิธีที่ผู้คุกคามขั้นสูงใช้ AI ซึ่งต้องการมาตรการป้องกันที่ซับซ้อนไม่แพ้กันซึ่งสามารถทำงานด้วยความเร็วของเครื่องจักรในขณะที่ยังคงมีการกำกับดูแลโดยมนุษย์สำหรับการตัดสินใจที่สำคัญ

แนวทางการป้องกันด้วยเทคโนโลยี:

• การป้องกันขณะรันไทม์ (Miggo Security): ตรวจสอบพฤติกรรมของแอปพลิเคชันในสภาพแวดล้อมการผลิต ตรวจจับรูปแบบการโต้ตอบระหว่างเซอร์วิซที่ผิดปกติ
• การทดสอบความปลอดภัยด้วย AI (ActiveFence): ทดสอบระบบ AI อย่างหนักเพื่อความปลอดภัยในโลกจริง นำกรอบการป้องกันที่ขับเคลื่อนด้วยข่าวกรองมาใช้
• ต้นแบบการตรวจจับระยะเริ่มต้น: Anthropic กำลังพัฒนามาตรการเพื่อหยุดยั้งการโจมตีทางไซเบอร์อัตโนมัติตั้งแต่เริ่มต้น

กลยุทธ์การป้องกันที่กำลังพัฒนา

บริษัทความปลอดภัยกำลังพัฒนาแนวทางใหม่ ๆ อย่างรวดเร็วเพื่อตอบโต้ภัยคุกคามที่ใช้พลังจาก AI บริษัทอย่าง Miggo Security มุ่งเน้นไปที่แพลตฟอร์มป้องกันขณะรันไทม์ที่ติดตามว่าแอปพลิเคชันทำงานอย่างไรในสภาพแวดล้อมการผลิต โดยตรวจจับรูปแบบที่ไม่ปกติในการโต้ตอบของบริการแทนที่จะพึ่งพาลายเซ็นแบบคงที่ ในขณะเดียวกัน บริษัทเช่น ActiveFence เชี่ยวชาญในการทดสอบความเครียดของระบบ AI เพื่อให้แน่ใจว่าพวกมันทำงานได้อย่างปลอดภัยในการใช้งานจริง ฉันทามติที่กำลังเกิดขึ้นคือการป้องกันที่มีประสิทธิภาพต้องการการรวมพลังของอัลกอริทึมกับการตัดสินใจของมนุษย์—AI จัดการกับปริมาณและความเร็วของการตรวจสอบ ในขณะที่มนุษย์ให้ความเข้าใจบริบทและตัดสินใจเชิงกลยุทธ์

อนาคตของความปลอดภัยทางไซเบอร์ด้วย AI

ในขณะที่องค์กรต่าง ๆ ยังคงนำระบบ AI มาใช้และขยายโครงสร้างพื้นฐานดิจิทัล พื้นที่โจมตีก็มีความซับซ้อนมากขึ้นเรื่อย ๆ แอปพลิเคชันสมัยใหม่ขึ้นอยู่กับบริการที่เชื่อมต่อถึงกันหลายสิบรายการ แพลตฟอร์มคลาวด์ API ของบุคคลที่สาม และผู้ช่วย AI ที่สามารถเข้าถึงข้อมูลและกระตุ้นเวิร์กโฟลว์ได้ ความซับซ้อนนี้สร้างช่องโหว่ใหม่ที่ผู้โจมตีกระตือรือร้นที่จะใช้ประโยชน์ ชุมชนความปลอดภัยทางไซเบอร์กำลังเผชิญกับความท้าทายเร่งด่วนในการพัฒนาเกราะป้องกันที่สามารถป้องกันไม่ให้ระบบ AI ถูกจัดการในขณะที่ยังคงประโยชน์ของพวกมันสำหรับวัตถุประสงค์ที่ถูกต้องตามกฎหมาย ราวกันภัยที่สร้างขึ้นในวันนี้จะเป็นตัวกำหนดว่า AI จะกลายเป็นอาวุธหลักสำหรับผู้โจมตีหรือเกราะสำหรับผู้ปกป้องในการแข่งขันด้านอาวุธดิจิทัลที่กำลังดำเนินอยู่