
OpenAI ส่ง AI แฮกตัวเอง! เสริมแกร่ง ChatGPT Atlas ป้องกัน Prompt Injection
ในยุคที่ AI Agent เริ่มเข้ามามีบทบาทเสมือนผู้ช่วยส่วนตัวที่ “คลิก” และ “ท่องเว็บ” แทนเราได้จริง ฟีเจอร์ Agent Mode ใน ChatGPT Atlas จึงกลายเป็นเป้าหมายใหม่ที่หอมหวานสำหรับแฮกเกอร์ ล่าสุด OpenAI ได้ออกมาเปิดเผยถึงมาตรการความปลอดภัยใหม่ที่ฟังดูเหมือนพล็อตหนังไซไฟ นั่นคือการสร้างระบบ “Automated Red Teaming” ที่ขับเคลื่อนด้วย Reinforcement Learning เพื่อมาโจมตีระบบของตัวเอง โดยเป้าหมายหลักคือการป้องกันการโจมตีแบบ Prompt Injection ที่กำลังเป็นภัยคุกคามใหญ่ในวงการ AI ขณะนี้ ต้องเข้าใจก่อนว่า Prompt...



















