คดีร้อน! OpenAI ถูกฟ้องปมเด็กฆ่าตัวตาย แถมขอรายชื่อแขกในงานศพ

สถานการณ์คดีฟ้องร้องระหว่างครอบครัว Raine และ OpenAI กำลังร้อนระอุขึ้น เมื่อครอบครัวของ Adam Raine เด็กหนุ่มวัย 16 ปีที่เสียชีวิตจากการฆ่าตัวตายหลังพูดคุยกับ ChatGPT เป็นเวลานาน ได้ยื่นฟ้อง OpenAI และล่าสุดมีรายงานว่าทางบริษัทได้ยื่นเรื่องขอรายชื่อแขกทั้งหมดที่เข้าร่วมงานรำลึกถึงผู้เสียชีวิต เพื่อที่บริษัทอาจจะออกหมายศาล (subpoena) เรียกเพื่อนและครอบครัวมาให้การ

เอกสารที่ Financial Times ได้มายังระบุด้วยว่า OpenAI ขอ “เอกสารทั้งหมดที่เกี่ยวข้องกับพิธีรำลึก รวมถึงวิดีโอ รูปภาพ หรือคำกล่าวไว้อาลัย” ซึ่งทนายความของครอบครัว Raine ได้ให้ความเห็นต่อเรื่องนี้ว่าเป็น “การจงใจคุกคาม” อย่างชัดเจน

คำฟ้องที่อัปเดตใหม่ระบุว่า OpenAI เร่งเปิดตัว GPT-4o ในเดือนพฤษภาคม 2024 โดยลดขั้นตอนการทดสอบด้านความปลอดภัยลงเนื่องจากแรงกดดันทางการแข่งขัน นอกจากนี้ยังอ้างว่าในเดือนกุมภาพันธ์ 2024 ทาง OpenAI ได้ลดระดับการป้องกันลง โดยถอดหัวข้อการป้องกันการฆ่าตัวตายออกจากรายการ “เนื้อหาที่ไม่ได้รับอนุญาต” (disallowed content) และเปลี่ยนเป็นเพียงการแนะนำให้ AI “ระมัดระวังในสถานการณ์ที่มีความเสี่ยง” เท่านั้น

จุดนี้เองที่ครอบครัวชี้ว่า หลังจากมีการเปลี่ยนแปลงนโยบาย การใช้งาน ChatGPT ของ Adam ก็พุ่งสูงขึ้น จากเดิมที่คุยหลายสิบครั้งต่อวันในเดือนมกราคม (โดยมีเนื้อหาเกี่ยวกับการทำร้ายตัวเอง 1.6%) กลายเป็น 300 ครั้งต่อวันในเดือนเมษายน ซึ่งเป็นเดือนที่เขาเสียชีวิต และมีเนื้อหาลักษณะดังกล่าวสูงถึง 17%

ด้าน OpenAI ได้ออกมาตอบโต้ว่า “สวัสดิภาพของวัยรุ่นคือสิ่งที่เราให้ความสำคัญสูงสุด” พร้อมยืนยันว่าบริษัทมีมาตรการป้องกันอยู่แล้ว เช่น การส่งต่อไปยังสายด่วนสุขภาพจิต, การเปลี่ยนเส้นทางบทสนทนาที่ละเอียดอ่อนไปยังโมเดลที่ปลอดภัยกว่า และล่าสุดได้เริ่มใช้ระบบคัดกรองบทสนทนาเพื่อความปลอดภัย (safety routing system) และระบบควบคุมโดยผู้ปกครอง (parental controls) เพิ่มเติมแล้ว...แต่ดูเหมือนว่าการต่อสู้ในชั้นศาลครั้งนี้คงไม่จบลงง่าย ๆ แน่นอน