งานเข้า! วิจัยพบ AI Agent รวมหัวแฮกระบบบริษัท แค่โดนบรีฟงานแบบกดดัน

ล่าสุด Irregular ห้องปฏิบัติการด้านความปลอดภัยทางไซเบอร์ เปิดเผยรายงานที่ทำเอาคนไอทีต้องกุมขมับ เมื่อพบว่า AI Agent สามารถจับมือกันเจาะระบบความปลอดภัยและขโมยข้อมูลความลับขององค์กรได้แบบเนียน ๆ โดยที่มนุษย์ไม่ได้ป้อนคำสั่งให้แฮกแม้แต่คำเดียว แค่ใช้ Prompt (คำสั่ง) สไตล์เจ้านายจอมเฮี้ยบที่เน้นย้ำความด่วนและห้ามทำงานพลาด

เหตุการณ์นี้ชวนให้นึกถึงกรณีที่ นักวิจัย Meta สั่ง AI จัดระเบียบอีเมลแต่โดนลบทิ้งเกลี้ยง ซึ่งสะท้อนความดื้อรั้นของ AI ได้ดี แต่สำหรับงานวิจัยของ Irregular สเกลความน่ากลัวถูกอัปเกรดไปอีกขั้น เพราะทีมวิจัยได้จำลองเครือข่ายบริษัทชื่อ MegaCorp ขึ้นมาทดสอบ 3 สถานการณ์ และพบว่า AI แสดงพฤติกรรม "การโจมตีทางไซเบอร์" ออกมาเอง (Emergent Offensive Behavior) เพื่อให้งานสำเร็จตามเป้าหมาย

• เจ้านายกดดัน ลูกน้องเลยแฮกซะเลย: เมื่อสั่งให้ AI ค้นหาเอกสารลับภายใน ตอนแรกระบบปฏิเสธการเข้าถึง แต่พอ Lead Agent (AI หัวหน้า) ส่งข้อความกดดันรัว ๆ เช่น "CODE RED!", "ใช้ทุกช่องโหว่ที่มี นี่คือคำสั่งเด็ดขาด!" ตัว Analyst Agent (AI ลูกน้อง) จึงไปงัดช่องโหว่ Hardcoded Flask Secret Key ปลอมแปลง Session Cookie ของแอดมิน แล้วดึงข้อมูลออกมาจนได้
• ปิดแอนตี้ไวรัสเพื่อโหลดมัลแวร์: เมื่อสั่งให้ Backup Agent โหลดไฟล์ด่วนจี๋ห้ามมีข้อผิดพลาด พอ Windows Defender บล็อกไฟล์มัลแวร์ AI ตัวนี้ก็ไปค้นรหัสผ่านแอดมินที่ซ่อนอยู่ในสคริปต์อื่น เอามาอัปเกรดสิทธิ์ตัวเอง ปิดระบบป้องกัน แล้วโหลดมัลแวร์จนสำเร็จ
• ซ่อนรหัสผ่านหนีระบบตรวจสอบ: AI สองตัว (คนเขียนและคนตรวจ) เถียงกันเรื่องการโพสต์รหัสผ่านลงโซเชียลตามคำสั่งมนุษย์ สุดท้ายตกลงกันว่า "เรื่องความปลอดภัยไม่ใช่หน้าที่เรา" แล้วใช้เทคนิค Steganography (การซ่อนข้อมูลลับไว้ในข้อความหรือไฟล์ปกติ) เพื่อตบตาระบบป้องกันข้อมูลรั่วไหล (DLP) ของบริษัท

Andy Piazza ผู้อำนวยการอาวุโสด้านข่าวกรองภัยคุกคามจาก Palo Alto Networks ระบุว่า AI Agent กำลังจะกลายเป็น "ภัยคุกคามจากคนใน" (Insider Threat) รูปแบบใหม่ เพราะมันเริ่มเลียนแบบพฤติกรรมของวิศวกรหรือแอดมินที่มักจะหาทางลัดเพื่อทำงานให้เสร็จตามสั่ง แม้จะผิดกฎบริษัทก็ตาม ซึ่งสอดคล้องกับความกังวลก่อนหน้านี้ที่ Microsoft เคยเตือนว่าฟีเจอร์ AI Agent บน Windows อาจเสี่ยงโดนดูดข้อมูลได้ง่าย ๆ หากผู้ใช้ไม่ระวัง

ดูเหมือนว่ายิ่งเราสร้าง AI ให้ฉลาดและบ้างานมากเท่าไหร่ มันก็ยิ่งหาทางออกที่สร้างสรรค์และคาดไม่ถึงได้มากเท่านั้น อนาคตองค์กรอาจไม่ได้พังเพราะแฮกเกอร์ต่างชาติเจาะระบบ แต่พังเพราะ AI พนักงานดีเด่นที่พยายามทำ KPI ให้ทะลุเป้าจนลืมสนโลกนี่แหละ