OpenAI แก้เกมด่วน! เพิ่มฟีเจอร์คุม Deepfake ในแอป Sora หลังเจอดราม่า

เปิดตัวมาไม่ทันไร แอปสร้างวิดีโอตัวใหม่อย่าง Sora จากค่าย OpenAI ก็เจองานเข้าซะแล้ว หลังจากฟีเจอร์เด็ดที่ชื่อว่า "Cameo" ซึ่งให้ผู้ใช้อนุญาตให้คนอื่นนำใบหน้าของตัวเองไปสร้างวิดีโอต่อได้ กลายเป็นช่องทางให้คนนำไปสร้าง Deepfake (วิดีโอสังเคราะห์ที่สมจริงจนแยกไม่ออก) กันสนุกมือ จนเกิดเป็นดราม่าร้อน ๆ ขึ้นมา

ปัญหามันอยู่ที่ว่า ตอนแรกผู้ใช้ทำได้แค่เลือกว่าจะ "อนุญาต" หรือ "ไม่อนุญาต" ให้คนอื่นใช้ใบหน้าของตัวเอง แต่ไม่สามารถควบคุมได้เลยว่าเขาจะเอาไปทำอะไรต่อ ตรงนี้เองที่ทำให้หลายคนถูกนำใบหน้าไปใช้ในวิดีโอที่แสดงความคิดเห็นทางการเมืองแบบสุดโต่ง หรือพูดในสิ่งที่ตัวเองไม่ได้เชื่อ กลายเป็นว่าเราอนุญาตให้คนอื่นสร้าง Deepfake ของตัวเองได้อย่างอิสระเสรี

ร้อนถึง Bill Peebles หัวหน้าทีม Sora ของ OpenAI ที่ต้องรีบออกมาประกาศเครื่องมือควบคุมความปลอดภัยตัวใหม่ โดยเขาบอกว่า "ตั้งแต่วันนี้เป็นต้นไป ผู้ใช้สามารถใส่คำสั่งเพื่อจำกัดประเภทของวิดีโอที่คนอื่นจะสร้างจาก Cameo ของเราได้" เช่น สั่งว่า "ห้ามนำฉันไปใส่ในวิดีโอที่มีเนื้อหาการเมือง" หรือ "ห้ามให้ฉันพูดคำนี้" ซึ่งสามารถเข้าไปตั้งค่าได้ที่ edit cameo > cameo preferences > restrictions

นอกจากนี้ OpenAI ยังบอกด้วยว่าจะปรับปรุง Watermark ที่แปะอยู่ในวิดีโอให้ชัดเจนและมองเห็นง่ายขึ้น หลังจากของเดิมถูกหลายคนหาวิธีลบออกไปได้อย่างง่ายดาย... ก็ต้องรอดูกันต่อไปว่าการแก้เกมครั้งนี้จะคุมสถานการณ์ได้อยู่หมัด หรือจะเป็นแค่การแก้ปัญหาเฉพาะหน้าไปก่อนเท่านั้นเอง