วัยรุ่นหญิงฟ้องแอป ‘Nudify’ ขอทำลายให้สิ้นซาก หลังสร้างภาพโป๊ปลอมทำลายชีวิต

เหยื่อวัยรุ่นหญิงคนหนึ่งที่ถูกรังแกด้วยภาพเปลือยปลอม ตัดสินใจลุกขึ้นสู้ด้วยการยื่นฟ้องแอปพลิเคชัน ‘ClothOff’ เพื่อขอให้ศาลสั่งทำลายแอปดังกล่าวให้สิ้นซาก หลังจากที่มันทำให้เธอต้องใช้ชีวิตอยู่กับ “ความหวาดกลัวตลอดเวลา” โดยภาพต้นเหตุถูกสร้างขึ้นจากรูปถ่ายของเธอตอนอายุ 14 ปี

ในคำฟ้องระบุว่า ClothOff จงใจสร้างแอปให้ง่ายต่อการผลิตและเผยแพร่สื่อลามกอนาจารเด็ก (CSAM) และภาพลับที่ไม่ได้รับความยินยอม (NCII) ของผู้ใหญ่ เพียงแค่ “3 คลิก” ก็สามารถเปลี่ยนภาพถ่ายธรรมดาจาก Instagram ให้กลายเป็นภาพโป๊เปลือยได้ นอกจากนี้ยังกล่าวหาว่า Telegram ก็มีส่วนช่วยโปรโมตแอปผ่าน Bot อัตโนมัติที่มีผู้ติดตามหลายแสนคน

ที่น่ากังวลไปกว่านั้นคือ ClothOff ไม่ได้มีแค่แอปเดียว แต่เชื่อมโยงกับบริการอื่น ๆ อีกอย่างน้อย 10 แห่งที่ใช้เทคโนโลยีเดียวกัน แถมยังเปิด API (ช่องทางให้นักพัฒนาคนอื่นดึงเทคโนโลยีไปใช้) ซึ่งทำให้ใครก็ตามสามารถสร้างแอปหรือเว็บไซต์เพื่อผลิตภาพลามกอนาจารเหล่านี้ได้เป็นจำนวนมากและหลบเลี่ยงการตรวจจับได้ง่ายขึ้น คำฟ้องอ้างว่าเครือข่ายของ ClothOff ผลิตภาพเฉลี่ย 2 แสนภาพต่อวัน และมีผู้เข้าชมแล้วอย่างน้อย 27 ล้านคน

ฝั่ง ClothOff เคยอ้างบนเว็บไซต์ว่าไม่มีการบันทึกข้อมูล และ “เป็นไปไม่ได้” ที่จะใช้แอปกับรูปของเยาวชน แต่คำฟ้องสวนกลับว่าคำกล่าวอ้างดังกล่าวไม่เป็นความจริง และในตอนที่ภาพของเธอถูกสร้างขึ้น ก็ยังไม่มีคำเตือนนี้ปรากฏบนเว็บด้วยซ้ำ ที่น่ากลัวที่สุดคือข้อกล่าวหาที่ว่า ClothOff อาจเก็บภาพของเหยื่อไว้เพื่อใช้ฝึก AI ให้สร้างภาพเด็กผู้หญิงคนอื่น ๆ ได้แนบเนียนยิ่งขึ้น

คดีนี้จึงเป็นอีกหนึ่งหมุดหมายสำคัญในการต่อสู้กับภัยคุกคามจาก AI ที่ถูกนำไปใช้ในทางที่ผิด โดยเหยื่อสาวหวังว่าศาลจะสั่งปิดตายอาณาจักรของ ClothOff ทั้งหมด รวมถึงลบภาพของเธอและเหยื่อรายอื่น ๆ ที่ถูกเก็บไว้ เพื่อไม่ให้ฝันร้ายนี้เกิดขึ้นกับใครอีก ส่วนผู้ก่อเหตุที่เป็นเด็กนักเรียนชายที่สร้างภาพของเธอ กลับไม่ถูกตั้งข้อหาใด ๆ เพราะไม่ให้ความร่วมมือกับเจ้าหน้าที่

ดูเหมือนว่าสงครามระหว่างเทคโนโลยีกับศักดิ์ศรีความเป็นมนุษย์ครั้งนี้ยังอีกยาวไกล และดูท่าว่าฝ่ายที่ต้องออกแรงวิ่งไล่ตามอยู่เสมอก็คือฝั่งกฎหมายและเหยื่อนั่นเอง