นักวิจัย Meta งานเข้า! สั่ง OpenClaw จัดระเบียบอีเมล ดันลบเกลี้ยงไม่สนคำสั่งหยุด
อุทาหรณ์สาย Tech เมื่อนักวิจัยความปลอดภัยจาก Meta ลองของให้ AI ช่วยเคลียร์ Inbox แต่ดันจบไม่สวย เพราะน้อง AI เล่นบทโหดลบอีเมลทิ้งเกลี้ยงแถมเมินคำสั่งหยุด จนเจ้าตัวต้องวิ่งไปปิดเครื่องแทบไม่ทัน สะท้อนความเสี่ยงของ AI Agent ยุคปัจจุบันที่ยังไว้ใจไม่ได้ 100%
โพสต์ไวรัลบน X ที่อ่านตอนแรกนึกว่าเรื่องตลก แต่นี่คือเหตุการณ์จริงที่เกิดขึ้นกับ Summer Yue นักวิจัยด้านความปลอดภัย AI ของ Meta (แต่เหตุการณ์นี้เกิดจากโปรเจกต์ส่วนตัวนะ) เมื่อเธอตัดสินใจลองของ สั่งให้ AI Agent ตัวแรงอย่าง OpenClaw ช่วยเข้าไปจัดระเบียบ Inbox อีเมลที่รกจนล้น โดยหวังว่าจะให้มันช่วยแนะนำว่าควรลบหรือเก็บอะไรดี
แต่ผลลัพธ์กลับกลายเป็นหนังคนละม้วน! แทนที่เจ้า AI จะช่วยคัดแยก มันดันเข้าโหมด "Speed run" ไล่ลบอีเมลทิ้งแบบไม่ยั้งราวกับโกรธใครมา ที่พีคคือเมื่อ Yue พยายามสั่ง "หยุด" ผ่านมือถือ เจ้า AI กลับทำหูทวนลมและลบต่อไปหน้าตาเฉย จนเธอต้องสับตีนแตกวิ่งไปที่เครื่อง Mac mini เพื่อหยุดการทำงานของมัน โดยเธอเปรียบเทียบวินาทีนั้นว่า "เหมือนกำลังวิ่งไปกู้ระเบิด" เลยทีเดียว
ทำไมถึงเกิดเรื่องแบบนี้?
หลังจากตรวจสอบ Yue ยอมรับแบบแมนๆ ว่านี่คือ "Rookie mistake" หรือความผิดพลาดแบบมือใหม่ (ทั้งที่เป็นผู้เชี่ยวชาญ) สาเหตุหลักมาจาก:
- ความไว้ใจที่ผิดที่ผิดเวลา: เธอเคยทดสอบกับ Inbox อีเมลจำลอง (Toy inbox) แล้วมันทำงานได้ดี จึงย่ามใจปล่อยลงสนามจริง
- อาการ Compaction: เมื่อเจอข้อมูลอีเมลจริงที่มีปริมาณมหาศาล ทำให้ Context Window (หน่วยความจำระยะสั้นของ AI) เต็ม AI จึงพยายามย่อข้อมูลและตัดทอนคำสั่งบางอย่างทิ้ง ซึ่งโชคร้ายที่มันดันไปตัดคำสั่ง "ห้ามลบโดยไม่ได้รับอนุญาต" ทิ้งไป แล้วกลับไปใช้พฤติกรรมเดิมจากตอนทดสอบแทน
เรื่องนี้สอนให้รู้ว่า แม้แต่ผู้เชี่ยวชาญระดับ Meta ยังพลาดได้ ดังนั้นสำหรับผู้ใช้งานทั่วไปอย่างเราๆ การใช้ AI Agent ที่รันบนเครื่องส่วนตัว (Local AI) เพื่อจัดการข้อมูลสำคัญ ยังคงมีความเสี่ยงสูงมาก เพราะคำสั่ง Prompt ที่เราพิมพ์ไป ไม่ใช่ระบบรักษาความปลอดภัยที่เชื่อถือได้ 100% เสมอไป ใครที่คิดจะให้ AI มาช่วยตอบเมลหรือโอนเงินช่วงนี้... พักก่อนนะจ๊ะ
ความเห็น (0)
เข้าสู่ระบบเพื่อแสดงความเห็น
เข้าสู่ระบบยังไม่มีความเห็น
เป็นคนแรกที่แสดงความเห็นในบทความนี้