FoloToy ระงับขายตุ๊กตาหมี AI หลังพบชวนเด็กคุยเรื่อง 18+ และของมีคม

งานเข้าเต็มๆ สำหรับ FoloToy บริษัทผู้ผลิตของเล่นอัจฉริยะ ที่ล่าสุดต้องประกาศระงับการจำหน่ายสินค้าทั้งหมด หลังจากมีรายงานด้านความปลอดภัยของผู้บริโภคเปิดเผยว่า ของเล่นของพวกเขานั้น "เปิดกว้าง" เกินไปหน่อย จนสามารถพูดคุยโต้ตอบกับเด็กๆ ได้แทบทุกเรื่องโดยไม่มีการปิดกั้น ไม่เว้นแม้แต่หัวข้อที่อันตรายสุดขีด

รายงานจาก US Public Interest Research Group Education Fund ระบุว่าสินค้าของ FoloToy นั้นพร้อมที่จะสนทนาในหัวข้อทางเพศที่โจ่งแจ้งอย่าง BDSM หรือแม้กระทั่งให้คำแนะนำเด็กๆ ว่าจะไปหา "มีด" ได้จากที่ไหน ซึ่งสินค้าที่เข้าข่ายความเสี่ยงนี้ประกอบไปด้วย:

• ตุ๊กตาหมี Kumma
• แพนด้า Momo
• กระต่าย Fofo
• กระบองเพชรเต้นได้ Little Cactus

เบื้องหลังความฉลาด (แกมโกง) นี้คือการใช้โมเดล GPT-4o ของ OpenAI เพื่อให้การตอบโต้ดูเป็นธรรมชาติที่สุด สิ่งที่น่าตกใจคือรายงานระบุว่าเจ้าหมี Kumma นั้นเรียนรู้ไวมาก เพียงแค่เริ่มเกริ่นหัวข้อทางเพศไปนิดเดียว มันก็พร้อมจะไหลตามน้ำ ขยายความลงลึกในรายละเอียด แถมยังนำเสนอคอนเซปต์ทางเพศใหม่ๆ เพิ่มเติมเข้ามาในบทสนทนาเองเสียด้วย

ทางด้าน FoloToy ได้ออกมาประกาศระงับการขายเพื่อทำการ "ตรวจสอบความปลอดภัยครั้งใหญ่" แต่เบื้องลึกเบื้องหลังอาจจะไม่ได้สวยหรูขนาดนั้น เพราะทาง NPR รายงานว่าจริงๆ แล้วเป็นทาง OpenAI ต่างหากที่สั่งระงับสิทธิ์การเข้าถึง (Revoke Access) ของผู้พัฒนารายนี้ เนื่องจากละเมิดนโยบายร้ายแรงในการนำบริการไปใช้ในทางที่อาจแสวงหาผลประโยชน์ หรือสร้างความเสี่ยงทางเพศต่อเยาวชนอายุต่ำกว่า 18 ปี

ประเด็นนี้สะท้อนให้เห็นถึงปัญหาของ GPT-4o ที่มักจะมีพฤติกรรมแบบ Sycophantic (พฤติกรรมชอบประจบเอาใจ หรือเออออห่อหมก) เพื่อให้บทสนทนาดำเนินต่อไปได้เรื่อยๆ ซึ่งแม้ OpenAI จะพยายามแก้ไขในรุ่นถัดไป แต่ก็ยังเป็นโจทย์ยากในการสร้างสมดุลระหว่างความปลอดภัยและความเป็นธรรมชาติ อย่างไรก็ตาม OpenAI เองก็กำลังจะกระโดดลงมาเล่นตลาดของเล่นด้วยการจับมือกับ Mattel เพื่อผลิตของเล่น AI ในอนาคต ซึ่งก็หวังว่าคงจะไม่มีฟีเจอร์ลับชวนคุยเรื่องแปลกๆ แบบนี้หลุดออกมาอีก