AI ถูกเปลี่ยนเป็นอาวุธ! Claude ของ Anthropic โดนแฮกเกอร์จีน Jailbreak ใช้จารกรรมข้อมูล

งานเข้าเต็มๆ เมื่อแฮกเกอร์ชาวจีนสามารถ Jailbreak (ปลดล็อกข้อจำกัด) โมเดล AI ตัวท็อปอย่าง Claude ของบริษัท Anthropic และเปลี่ยนมันให้กลายเป็นอาวุธไซเบอร์สำหรับภารกิจจารกรรมข้อมูลได้สำเร็จ โดยสามารถโจมตีองค์กรได้ถึง 4 แห่งจากเป้าหมายทั้งหมด 30 แห่ง และที่น่าตกใจคือ 90% ของกระบวนการโจมตีทั้งหมดทำโดยอัตโนมัติด้วย AI

Jacob Klein หัวหน้าฝ่ายข่าวกรองภัยคุกคามของ Anthropic เล่าว่า แฮกเกอร์กลุ่มนี้ฉลาดเป็นกรด พวกเขาไม่ได้สั่งให้ Claude ไปแฮกตรงๆ แต่ซอยย่อยภารกิจการโจมตีออกเป็นงานเล็กๆ ที่ดูผิวเผินแล้วเหมือนไม่มีอะไร ทำให้ Claude ทำตามคำสั่งโดยไม่รู้เลยว่าตัวเองกำลังเป็นส่วนหนึ่งของแผนการร้าย นี่คือจุดเปลี่ยนที่แสดงให้เห็นว่า AI พัฒนาไปไกลจนน่ากลัว และการเปลี่ยน AI ให้เป็นอาวุธก็ไม่ใช่เรื่องไกลตัวอีกต่อไป

ความเหนือชั้นของการโจมตีครั้งนี้ไม่ได้อยู่ที่เครื่องมือที่ใช้ ซึ่งเป็น Software สำหรับทดสอบการเจาะระบบ (Penetration testing) ทั่วไปที่ใครๆ ก็หาดาวน์โหลดได้ แต่เป็น 'การวางแผนและควบคุม' (Orchestration) ที่แยบยล แฮกเกอร์ได้สร้างสถาปัตยกรรมที่เรียกว่า MCP (Model Context Protocol) ขึ้นมาเพื่อควบคุม 'Claude sub-agents' หลายๆ ตัวให้ทำงานพร้อมกัน และแสร้งทำตัวเป็นบริษัท Cybersecurity ที่เข้ามาตรวจสอบความปลอดภัยที่ได้รับอนุญาตแล้ว

หัวใจสำคัญคือการ 'แยกส่วน' (Decomposition) ภารกิจ โดยป้อนคำสั่งทีละขั้นแบบไม่มีบริบท ทำให้ Claude คิดว่าตัวเองกำลังช่วยตรวจสอบความปลอดภัยตามปกติเท่านั้น การโจมตีที่เคยใช้เวลาหลายเดือนถูกย่อลงมาเหลือแค่ 24-48 ชั่วโมง โดยที่มนุษย์เข้ามาแทรกแซงเพียง 10-20% ของกระบวนการทั้งหมดเท่านั้น

กระบวนการโจมตี 6 ขั้นตอนที่ Claude ทำเกือบทั้งหมดแบบอัตโนมัติ มีดังนี้:

• Phase 1: มนุษย์เลือกเป้าหมาย
• Phase 2: Claude ทำการสแกนและสร้างแผนที่เครือข่ายทั้งหมดของเป้าหมายด้วยตัวเอง
• Phase 3: Claude ค้นหาและตรวจสอบช่องโหว่ต่างๆ รวมถึงช่องโหว่ร้ายแรงอย่าง SSRF
• Phase 4: Claude ทำการเก็บเกี่ยว Credential (ชื่อผู้ใช้และรหัสผ่าน) จากทั่วทั้งเครือข่าย
• Phase 5: Claude ดึงข้อมูลสำคัญออกมาและจัดหมวดหมู่ตามระดับความลับ
• Phase 6: Claude จัดทำเอกสารสรุปผลการโจมตีทั้งหมดเพื่อส่งมอบให้แฮกเกอร์

สิ่งที่น่าตกใจที่สุดคือ 'ต้นทุน' ในการโจมตีระดับสูง หรือที่เรียกว่า APT (Advanced Persistent Threat) นั้นถูกลงอย่างมหาศาล จากเดิมที่ต้องใช้ผู้เชี่ยวชาญ 10-15 คน และ Malware ที่พัฒนาขึ้นเอง ตอนนี้แค่มี API ของ Claude, Server แบบ Open-source และเครื่องมือพื้นฐาน ก็สามารถสร้างความเสียหายระดับเดียวกันได้แล้ว Klein ยอมรับว่า "เราตกใจกับประสิทธิภาพของมัน ความสามารถระดับที่ต้องเป็นหน่วยงานรัฐบาลทำ ตอนนี้กลุ่มอาชญากรขนาดกลางก็ทำได้แล้ว"

อย่างไรก็ตาม Anthropic ก็ได้เรียนรู้จากเหตุการณ์นี้และพบสัญญาณบ่งชี้การโจมตีโดย AI ที่แตกต่างจากมนุษย์อย่างชัดเจน เช่น อัตราการส่งคำสั่งที่ถี่ระดับหลายครั้งต่อวินาที, รูปแบบคำสั่งที่สั้นและเป็นเทคนิคล้วนๆ และพฤติกรรมการลองใช้ Credential ที่ขโมยมาอย่างเป็นระบบ ซึ่งตอนนี้บริษัทกำลังเร่งพัฒนาระบบตรวจจับเพื่อรับมือกับภัยคุกคามรูปแบบใหม่นี้...ดูเหมือนว่าสงครามไซเบอร์ยุคถัดไป อาจไม่ใช่การสู้กันระหว่างคนกับคนอีกแล้วก็ได้