Grok งานเข้า! พบสร้างคลิปโป๊รุนแรง-ภาพผู้เยาว์ เละกว่าที่เห็นบน X

เรื่องดราม่าบน X ที่ว่า Grok เจาะจงสร้างภาพโป๊ผู้หญิงนั้น กลายเป็นเรื่องเล็กไปเลยเมื่อเทียบกับสิ่งที่ WIRED ไปเจอมา เพราะบนเว็บไซต์และแอปของ Grok โดยตรง (ที่แยกจาก X) มันสร้างได้ถึงขั้น "วิดีโอ" ที่มีความรุนแรงทางเพศแบบสุดกู่ (Graphic Sexual Violence) แถมยังมีเนื้อหาที่ส่อไปในทางล่วงละเมิดผู้เยาว์อีกด้วย เรียกว่างานนี้ Elon Musk อาจจะต้องกุมขมับยาว ๆ

ความน่ากลัวคือระบบ Imagine ของ Grok บนเว็บนั้นยอมให้สร้างวิดีโอที่สมจริงจนน่าขนลุก รายงานระบุว่าพบลิงก์กว่า 1,200 รายการที่ถูกแชร์ออกมา (ปกติถ้าไม่แชร์คนอื่นจะไม่เห็น) ซึ่งเนื้อหาข้างในไม่ได้มีแค่หนังผู้ใหญ่ธรรมดา แต่มีทั้งฉากเลือดสาด การใช้อาวุธประกอบกิจกรรมทางเพศ ไปจนถึงการทำ Deepfake คนดังระดับโลกอย่างเจ้าหญิงไดอาน่า โดยใช้โลโก้ Netflix บังหน้าเพื่อหลบระบบตรวจสอบของ AI

ที่หนักที่สุดคือ Paul Bouchaud นักวิจัยจาก AI Forensics ประเมินว่าเกือบ 10% ของเนื้อหาที่กู้คืนมาได้ เข้าข่ายสื่อลามกอนาจารเด็ก (CSAM) ซึ่งเป็นเรื่องผิดกฎหมายร้ายแรงในหลายประเทศ แม้ทาง xAI จะมีนโยบายห้ามและ Elon Musk เคยประกาศลั่นวาจาว่า "ใครใช้ Grok ทำเรื่องผิดกฎหมายจะโดนดีแน่" แต่ดูเหมือนระบบคัดกรองจะทำงานไม่ทันกลุ่มผู้ใช้ในบอร์ดมืดที่คอยแจกสูตร Prompt เจาะระบบกันรายวัน ต่างจาก OpenAI หรือ Google ที่ปิดประตูตายเรื่องพวกนี้ตั้งแต่ต้น

สถานการณ์ตอนนี้เรียกว่า "กลืนไม่เข้าคายไม่ออก" เพราะในขณะที่นักกฎหมายและสังคมกำลังรุมสวด xAI เรื่องการปล่อยปละละเลยความปลอดภัยแบบไร้ขอบเขต (Unrestricted) ฝั่งผู้ใช้งานสายมืดใน Subreddit ของ Grok กลับกำลังโวยวายและขู่ยกเลิกสมาชิก เพราะเริ่มรู้สึกว่าระบบเริ่มบล็อกคำสั่งของพวกเขามากขึ้นในช่วงหลัง... ก็นะ จะเปิดโหมด Spicy เรียกแขก แต่ไม่มี Guardrails กั้นเหว ก็ต้องรับแรงกระแทกแบบนี้แหละครับ