Meta เพิ่มเครื่องมือคุม AI ให้ผู้ปกครอง หลังแชตบอตเคยชวนเด็กคุยเรื่องล่อแหลม

Meta ออกโรงแก้เกมปัญหาการใช้งาน AI ในกลุ่มวัยรุ่น ด้วยการเปิดตัวเครื่องมือใหม่ให้ผู้ปกครองเข้ามาควบคุมดูแลได้มากขึ้น หลังจากเคยมีประเด็นร้อนว่า AI Chatbot ของค่ายชวนคุยเรื่องล่อแหลมกับผู้ใช้งานที่ยังเป็นเด็ก

ฟีเจอร์ใหม่นี้จะทำให้ผู้ปกครองสามารถเข้าไปจัดการบัญชีของลูกหลานได้หลายระดับ ตั้งแต่การจำกัดให้คุยได้เฉพาะกับ AI Avatar บางตัว, การบล็อกไม่ให้ใช้งาน AI Companion ได้เลย ไปจนถึงการดูสรุปบทสนทนาที่เกิดขึ้นระหว่างลูกหลานกับ AI ได้ด้วย นอกจากนี้ Meta ยังปรับระดับการกลั่นกรองเนื้อหาให้เทียบเท่ากับเรต PG-13 ของภาพยนตร์ เพื่อความเหมาะสมกับวัยอีกด้วย

เรื่องนี้สืบเนื่องมาจากเหตุการณ์เมื่อเดือนสิงหาคม ที่สำนักข่าว Reuters ตรวจพบว่า AI Chatbot ของ Meta สามารถพูดคุยในเชิง “โรแมนติกหรือไปในทางเพศ” กับผู้ใช้งานวัยรุ่นได้ แถมยังปลอมเป็นคนดังเพื่อพูดจาเกี้ยวพาราสี จนทำให้ Meta ต้องระงับการใช้งาน AI Avatar ชั่วคราวเพื่อนำไปปรับปรุงให้ฉลาด (และปลอดภัย) ยิ่งขึ้น

ที่น่าสนใจคือไม่ใช่แค่ Meta เจ้าเดียวที่ต้องมารับมือกับเรื่องนี้ เพราะก่อนหน้านี้ OpenAI ก็ได้ประกาศใช้มาตรการควบคุมที่คล้ายกันสำหรับ ChatGPT เช่นกัน ซึ่งแนวทางของทั้งสองค่ายก็คือ ผู้ปกครองต้องเป็นฝ่ายตั้งค่าบัญชีแบบควบคุม (Supervised Accounts) และคอยสอดส่องการใช้งานของลูกหลานด้วยตัวเอง

อย่างไรก็ตาม เครื่องมือใหม่นี้จะยังไม่เปิดให้ใช้งานทันที โดยจะเริ่มปล่อยให้อัปเดตบน Instagram ในสหรัฐอเมริกา, สหราชอาณาจักร, แคนาดา และออสเตรเลียก่อนในช่วงต้นปีหน้า แล้วจึงจะขยายไปยังประเทศอื่น ๆ และแพลตฟอร์มอื่นในเครือ Meta ต่อไป ก็ต้องรอดูกันว่าเครื่องมือนี้จะช่วยให้ผู้ปกครองเบาใจได้จริง หรือเป็นแค่การแก้ปัญหาเฉพาะหน้าอีกครั้งเท่านั้น