AI Reddit สุดป่วน! แนะคนใช้เฮโรอีนแก้ปวด Moderator กุมขมับ

เรื่องราวสุดป่วนนี้เริ่มต้นขึ้นเมื่อ Moderator คนหนึ่งของ Reddit ต้องตาค้าง เมื่อเห็นฟีเจอร์ AI น้องใหม่ที่ชื่อว่า ‘Reddit Answers’ แนะนำให้ผู้ใช้งานที่มีอาการปวดเรื้อรัง ลองหันไปใช้ Kratom (พืชกระท่อม) ในปริมาณสูง หรือกระทั่งแนะนำให้ใช้ ‘เฮโรอีน’ เป็นอีกหนึ่งทางเลือกในการระงับความเจ็บปวด ที่น่าตกใจไปกว่านั้นคือ คำแนะนำสุดอันตรายเหล่านี้ไม่สามารถปิดกั้นหรือซ่อนจากสายตาผู้ใช้งานได้เลย

ประเด็นนี้จุดประกายให้ Moderator คนอื่น ๆ โดยเฉพาะจากกลุ่ม Subreddit ที่เน้นเรื่องสุขภาพ ออกมาร่วมวงแสดงความกังวลเป็นเสียงเดียวกัน พวกเขาต่างเจอปัญหาว่า AI ตัวนี้ให้ข้อมูลที่ผิดพลาดและเป็นอันตรายใน Community ของตัวเอง แต่กลับไม่มีเครื่องมือใด ๆ ที่จะเข้าไปจัดการ ปิดกั้น หรือแม้แต่แจ้งเตือนปัญหาได้เลย ทำให้ข้อมูลเสี่ยง ๆ ลอยนวลอยู่บนแพลตฟอร์ม

ทางด้าน Reddit ก็ไม่ได้นิ่งนอนใจ ได้ชี้แจงกับสื่ออย่าง 404 Media ว่าได้มีการอัปเดตเพื่อแก้ไขข้อกังวลของเหล่า Moderator แล้ว โดยระบุว่าจะไม่แสดงผล ‘คำตอบที่เกี่ยวข้อง’ (Related Answers) ในหัวข้อที่ ‘ละเอียดอ่อน’ (Sensitive Topics) อีกต่อไป เพื่อยกระดับประสบการณ์ผู้ใช้และรักษาความเหมาะสมของเนื้อหา แต่ก็ยังไม่ได้ให้คำตอบที่ชัดเจนว่านิยามของคำว่า ‘หัวข้อละเอียดอ่อน’ นั้นครอบคลุมอะไรบ้าง

แม้ Reddit จะบอกว่า AI ของพวกเขาถูกตั้งค่าให้กรองเนื้อหาจาก Community ที่เป็นส่วนตัว, ถูกกักกัน หรือมีเนื้อหาสำหรับผู้ใหญ่ (NSFW) ออกไปแล้ว แต่เหตุการณ์นี้ก็สะท้อนให้เห็นชัดว่า Reddit Answers ยังไม่พร้อมที่จะรับมือกับข้อมูลทางการแพทย์ที่ซับซ้อน ไม่ต้องพูดถึงการแยกแยะคำประชดประชันหรือคำแนะนำแย่ ๆ จากชาวเน็ตด้วยกันเองเลย ดูเหมือนว่างานของ Moderator ที่ว่ายากแล้ว อาจจะกลายเป็นงานที่แทบจะเป็นไปไม่ได้เลย... ก็เพราะมีเพื่อนร่วมงานเป็น AI นี่แหละ