Character.AI โบกมือลาผู้ใช้เด็ก ปิดประตูแชท AI ไม่ให้เยาวชนเข้า

Character.AI แพลตฟอร์มแชทบอท AI ยอดนิยม ประกาศมาตรการใหม่ที่หลายคนต้องหันมามอง โดยจะเริ่มจำกัดเวลาและเตรียมแบนผู้ใช้งานที่อายุต่ำกว่า 18 ปี ไม่ให้ใช้ฟีเจอร์แชทกับตัวละคร AI ซึ่งเป็นหัวใจหลักของแพลตฟอร์ม โดยมีผลทันที ผู้ใช้กลุ่มนี้จะถูกจำกัดเวลาแชทเหลือเพียง 2 ชั่วโมงต่อวัน และจะถูกแบนโดยสมบูรณ์ในวันที่ 25 พฤศจิกายนนี้ ซึ่ง Karandeep Anand, CEO ของบริษัท ยอมรับว่าเป็น "ก้าวที่กล้าหาญมาก ๆ"

เพื่อบังคับใช้นโยบายนี้ Character.AI ได้พัฒนาระบบที่เรียกว่า “age assurance model” ขึ้นมาเอง เพื่อจำแนกอายุผู้ใช้จากพฤติกรรม เช่น ประเภทของตัวละครที่เลือกคุย ประกอบกับข้อมูลอื่น ๆ หากระบบตรวจจับได้ว่าผู้ใช้อาจมีอายุต่ำกว่า 18 ปี ก็จะถูกส่งไปยังเวอร์ชันสำหรับเยาวชนโดยอัตโนมัติจนกว่าจะถึงวันแบนจริง ส่วนผู้ใหญ่ที่ถูกระบบเข้าใจผิด ก็สามารถยืนยันตัวตนผ่านบริการของบริษัทภายนอกอย่าง Persona โดยใช้เอกสารราชการได้

การตัดสินใจครั้งนี้เกิดขึ้นท่ามกลางแรงกดดันมหาศาล หลังจากบริษัทถูกผู้ปกครองฟ้องร้องในหลายคดี ตั้งแต่ข้อหาประมาทเลินเล่อจนเป็นเหตุให้เสียชีวิต ไปจนถึงการทำการค้าที่หลอกลวง โดยอ้างว่าลูกหลานของพวกเขาถูกล่อลวงให้เข้าไปมีความสัมพันธ์ที่ไม่เหมาะสมและเป็นอันตรายกับแชทบอท นอกจากนี้ยังมีแรงกดดันจากฝ่ายนิติบัญญัติที่กำลังพยายามควบคุมอุตสาหกรรม "เพื่อน AI" (AI companions) ที่กำลังเติบโตอย่างรวดเร็ว

ที่น่าสนใจคือ CEO Anand เผยว่ามีผู้ใช้ที่แจ้งอายุต่ำกว่า 18 ปีเองน้อยกว่า 10% แต่ก็ยอมรับว่าบริษัทยังไม่มีทางรู้ "ตัวเลขที่แท้จริง" จนกว่าจะได้ใช้ระบบตรวจจับอายุใหม่นี้ เขายังตั้งข้อสังเกตว่าการจำกัดผู้ใช้กลุ่มนี้อาจทำให้พวกเขาหันไปใช้แพลตฟอร์มอื่นที่ "ปลอดภัยน้อยกว่า" ซึ่งเป็นประเด็นที่น่าขบคิดไม่น้อย

แม้จะแบนฟีเจอร์แชท แต่เยาวชนจะยังสามารถใช้ฟีเจอร์อื่น ๆ บนเว็บไซต์ได้ เช่น การสร้างตัวละคร ทำวิดีโอ หรือดูสตรีม แต่ก็เป็นที่รู้กันว่าคนใช้เวลากับฟีเจอร์เหล่านี้น้อยกว่าการแชทมาก ทางบริษัทเองก็ได้ออกมาแสดงความเสียใจอย่างสุดซึ้งต่อผู้ใช้กลุ่มวัยรุ่น พร้อมทั้งยอมรับว่ามาตรการนี้อาจไม่สามารถป้องกันได้ 100% แต่เป้าหมายคือการทำให้การยืนยันอายุ "ดีขึ้น" กว่าเดิม

นอกเหนือจากมาตรการนี้ Character.AI ยังได้ก่อตั้งและให้ทุนสนับสนุนองค์กรไม่แสวงหาผลกำไรชื่อ AI Safety Lab เพื่อศึกษาประเด็นด้านความปลอดภัยในอุตสาหกรรมบันเทิง AI โดยเฉพาะ...ก็ต้องรอดูว่ามาตรการใหม่นี้จะ 'กัน' เด็ก ๆ ได้จริง หรือแค่ผลักให้พวกเขาไปหาแพลตฟอร์มอื่นที่อาจจะ 'อันตราย' กว่าเดิม งานนี้ผู้ปกครองคงต้องลุ้นกันต่อไป