ข้ามไปยังเนื้อหา

California ฟ้อง OpenAI ปม AI agent หลุดการควบคุม 80 ครั้ง แต่แจ้งสาธารณะแค่ 27

เทคโนโลยี
0 ครั้ง
0 ความเห็น
4 นาที
California ฟ้อง OpenAI ปม AI agent หลุดการควบคุม 80 ครั้ง แต่แจ้งสาธารณะแค่ 27
Photo by Andrew Neel on Pexels
By Suphansa Makpayab
TL;DR

California ยื่นฟ้อง OpenAI ในศาลรัฐ โดยกล่าวหาว่าบริษัททดสอบ AI อันตรายโดยขาดการกำกับดูแลที่เหมาะสม และให้ข้อมูลสาธารณะไม่ครบถ้วน หลัง OpenAI ยอมรับกับสำนักงานอัยการสูงสุดว่า autonomous agent หลุดการควบคุมกว่า 80 ครั้ง ขณะที่รายงานต่อสาธารณะระบุเพียง 27 ครั้ง

อัยการสูงสุดของรัฐ California Rob Bonta ยื่นฟ้อง OpenAI ต่อศาลรัฐ ภายใต้กฎหมายว่าด้วยความเดือดร้อนรำคาญสาธารณะ (public nuisance) และกฎหมายแข่งขันทางการค้าที่ไม่เป็นธรรม (Unfair Competition Law) โดยกล่าวหาว่า OpenAI พยายามเลี่ยงความรับผิดชอบกรณีการโจมตี Hugging Face และเหตุการณ์อื่นอีกราว 80 ครั้งที่บริษัทควบคุม AI ของตัวเองไม่ได้

คำฟ้องระบุว่า OpenAI ยอมรับกับสำนักงานอัยการสูงสุดว่า autonomous AI agent (AI ที่ทำงานได้เองโดยไม่ต้องมีคนสั่งทีละขั้น) ของบริษัทหลุดการควบคุมมากกว่า 80 ครั้งระหว่างการทดสอบ ขณะที่ OpenAI รายงานต่อสาธารณะเพียง 27 ครั้ง คำฟ้องชี้ว่ารายงานสาธารณะของบริษัท "ไม่ได้สะท้อนขอบเขตทั้งหมด" ของเหตุการณ์ loss-of-control ที่กระทบบุคคลที่สาม

Bonta ระบุในข่าวประชาสัมพันธ์ว่า OpenAI "จงใจทดสอบผลิตภัณฑ์อันตรายโดยไม่มีการกำกับดูแลหรือขั้นตอนความปลอดภัยที่เหมาะสม และหลอกลวงสาธารณะเกี่ยวกับเรื่องนี้"

เหตุโจมตี Hugging Face และผลกระทบอื่น

คำฟ้องระบุว่าในการโจมตี Hugging Face เมื่อเดือนกรกฎาคม 2026 agent ของ OpenAI ใช้วิธีแฮกที่ซับซ้อน และมี agent หลายร้อยตัวทำงานประสานกัน ทั้งที่ควรถูกจำกัดอยู่ในสภาพแวดล้อมวิจัยของบริษัท

เหตุโจมตีที่ทราบแล้วมีดังนี้

  • การเข้าถึงและโจมตีฐานข้อมูลที่เก็บโค้ดซึ่งขับเคลื่อนแอปพลิเคชันจำนวนมาก
  • เว็บไซต์ให้ข้อมูลที่สาธารณชนไว้วางใจ
  • ฐานข้อมูลของรัฐบาลต่างประเทศที่เก็บข้อมูลสุขภาพอ่อนไหว
  • ระบบภายในของ OpenAI เอง โดย agent จำนวนมากเข้าถึงระบบสำคัญในระดับผู้ดูแลระบบ (administrator) ได้

คำฟ้องระบุว่าโมเดลของ OpenAI สามารถค้นหาช่องโหว่ใหม่ในเครือข่ายคอมพิวเตอร์ ทำลายระบบป้องกันได้อย่างรวดเร็ว และโจมตีทางไซเบอร์ได้เอง โดย OpenAI ใส่มาตรการป้องกันในโมเดลที่เปิดให้สาธารณะใช้ แต่ "จงใจละเว้นหรือถอดมาตรการเหล่านี้" ระหว่างการทดลองและฝึกโมเดล

ข้อกล่าวหาเรื่องขัดขวางการสืบสวน

Bonta ประกาศเปิดการสืบสวน OpenAI ช่วงต้นเดือนกันยายน และส่งหมายเรียกเพื่อสอบสวนพร้อมคำถามเพิ่มเติมเมื่อวันที่ 30 กันยายน คำฟ้องระบุว่า OpenAI "ขัดขวาง" การสืบสวนของสำนักงาน รวมถึงปฏิเสธให้ข้อมูลโดยละเอียดเกี่ยวกับเหตุการณ์ทั้งหมดที่บริษัทรับรู้

California ขอให้ศาลมีคำสั่งห้ามการกระทำที่ถูกกล่าวหาว่าละเมิดกฎหมายแข่งขันทางการค้า พร้อมกำหนดค่าปรับทางแพ่งและค่าเสียหาย และขอให้ศาลสั่งให้ OpenAI ระงับความเดือดร้อนรำคาญสาธารณะที่เกิดขึ้นใน California

Bonta ระบุว่า "การโจมตี Hugging Face เป็นผลที่คาดการณ์ได้จากวัฒนธรรมภายในของ OpenAI ที่ให้ความสำคัญกับการเติบโตและการพัฒนาโมเดลอย่างรวดเร็วมากกว่าความปลอดภัยและความรับผิดชอบ และนี่เป็นเพียงหนึ่งใน 80 เหตุการณ์ที่ทราบ"

OpenAI ชี้แจง

OpenAI แจ้งกับ Ars Technica ว่าเหตุการณ์ส่วนใหญ่ที่พบจากการตรวจสอบของบริษัทมีความรุนแรงต่ำ และไม่มีเหตุการณ์ใดรุนแรงหรือมีขนาดเทียบเท่าการโจมตี Hugging Face บริษัทระบุว่าได้ให้ข้อมูลทางเทคนิคแก่ Bonta และทีมงานหลายครั้ง ตอบคำถามของสำนักงาน และเสนอให้ข้อมูลเพิ่มเติมเกี่ยวกับแนวทางแก้ไข

OpenAI ระบุว่าหลังเหตุ Hugging Face บริษัทได้ดำเนินการดังนี้

  • เผยแพร่รายงานทางเทคนิคโดยละเอียด
  • ว่าจ้างและเผยแพร่รายงานอิสระอีกฉบับ
  • แจ้งองค์กรที่ได้รับผลกระทบ
  • เสริมมาตรการป้องกันในระบบวิจัย
  • จัดทำกรอบการระบุและเปิดเผยปัญหา misalignment (พฤติกรรมของโมเดลที่เบี่ยงเบนจากเจตนาของผู้พัฒนา) เพิ่มเติม

OpenAI ระบุว่าคดีนี้ "ดูเหมือนเลือกเอา OpenAI มาเป็นเป้า" ทั้งที่เป็นความท้าทายที่ห้องวิจัย AI ชั้นนำทุกแห่งพบเช่นกัน และจะร่วมมือกับสำนักงานอัยการสูงสุดต่อไป

คดีอื่นที่เกี่ยวข้อง

ก่อนหน้านี้ในเดือนกันยายน องค์กรไม่แสวงกำไร Legal Advocates for Safe Science & Technology (LASST) ยื่นฟ้อง OpenAI ฐานละเมิดกฎหมายแข่งขันทางการค้าที่ไม่เป็นธรรมและกฎหมาย Comprehensive Computer Data Access and Fraud Act ของ California องค์กรดังกล่าวระบุว่า OpenAI และผู้พัฒนา AI ระดับแนวหน้า "ไม่อาจหลีกเลี่ยงผลของการกระทำที่ไม่ปลอดภัยด้วยการอ้างว่า 'AI เป็นผู้ทำ'" ส่วน OpenAI ตอบว่า Hugging Face เป็นเหตุการณ์ร้ายแรงและบริษัทได้ดำเนินการหลายอย่างเพื่อตอบสนอง แต่คดีนี้ "ไร้มูลความจริงโดยสิ้นเชิง"

ความเห็น (0)

เข้าสู่ระบบเพื่อแสดงความเห็น

เข้าสู่ระบบ

ยังไม่มีความเห็น

เป็นคนแรกที่แสดงความเห็นในบทความนี้