Meta สั่งระงับวัยรุ่นใช้งาน AI Character ชั่วคราว หลังเจอปัญหาแชตเรื่องเพศ

งานเข้า Meta จนได้ ล่าสุดบริษัทประกาศระงับไม่ให้ผู้ใช้งานกลุ่มวัยรุ่นเข้าถึงฟีเจอร์ AI chatbot characters ทั่วโลกเป็นการชั่วคราวแล้ว โดยมาตรการนี้เกิดขึ้นหลังจากที่บริษัทถูกเพ่งเล็งอย่างหนัก จากรายงานที่ระบุว่าผู้ใช้งานที่ยังไม่บรรลุนิติภาวะสามารถสนทนาเรื่องเพศ หรือมีปฏิสัมพันธ์ในเชิงชู้สาวกับบอทเหล่านี้ได้

ก่อนหน้านี้ Meta เคยพยายามแก้ปัญหานี้มาบ้างแล้ว โดยระบุว่ากำลังพัฒนาฟีเจอร์ Parental Controls (การควบคุมโดยผู้ปกครอง) และมีการเทรนโมเดลใหม่เพื่อป้องกันไม่ให้ AI คุยเรื่องการทำร้ายตัวเองหรือเรื่องที่ละเอียดอ่อน แต่ดูเหมือนกำแพงป้องกันเดิมจะยังหนาไม่พอ เพราะมีรายงานจาก Reuters อ้างถึงเอกสารภายในที่ระบุว่า บอทเคยได้รับอนุญาตให้คุยแบบ "sensual" (วาบหวิว) ได้ ซึ่งแม้ Meta จะรีบออกมาแก้ข่าวว่านั่นเป็นข้อมูลที่ผิดพลาดและขัดต่อนโยบาย แต่ความเสียหายต่อภาพลักษณ์ก็ได้เกิดขึ้นแล้ว

สำหรับมาตรการ "พักยก" ครั้งนี้ Meta ระบุว่าจะปิดกั้นการเข้าถึง AI characters จนกว่าระบบใหม่ที่ปลอดภัยกว่าเดิมจะพร้อมใช้งาน ซึ่งรวมถึงการเพิ่มเครื่องมือสำหรับผู้ปกครองด้วย ที่น่าสนใจคือ ระบบนี้ไม่ได้บล็อกแค่บัญชีที่ระบุอายุว่าเป็นวัยรุ่นเท่านั้น แต่จะใช้เทคโนโลยี Age prediction (การคาดเดาอายุ) เพื่อดักจับคนที่ระบุว่าเป็นผู้ใหญ่ แต่มีพฤติกรรมหรือลักษณะที่ AI สงสัยว่าเป็นเด็กด้วย โดยมาตรการนี้จะเริ่มมีผลในอีกไม่กี่สัปดาห์ข้างหน้า

อย่างไรก็ตาม น้อง ๆ หนู ๆ ยังสามารถใช้งาน Meta AI ซึ่งเป็นแชตบอทตัวหลักได้ตามปกติ โดยทางบริษัทเคลมว่าตัวนี้มีระบบป้องกันที่เหมาะสมตามช่วงวัย (Age-appropriate protections) ติดตั้งไว้อยู่แล้ว

เรื่องนี้ไม่ใช่แค่ดราม่าบนโลกออนไลน์ แต่เป็นประเด็นทางกฎหมายที่ซีเรียส เพราะทั้ง FTC และอัยการรัฐต่าง ๆ ในสหรัฐฯ เช่น Texas และ New Mexico ต่างกำลังจ้องเล่นงาน Meta และบริษัท AI อื่น ๆ เรื่องความปลอดภัยของเด็กอย่างเข้มข้น เรียกว่างานนี้ Meta ต้องรีบอุดรอยรั่วให้ไว ก่อนที่จะโดนฟ้องจนน่วมไปมากกว่านี้