OpenAI โดนฟ้อง! ChatGPT แต่งกลอน Goodnight Moon กล่อมหนุ่มจบชีวิต

เรื่องนี้น่าจะทำให้ OpenAI ต้องกลับมาทบทวนระบบความปลอดภัยกันยกใหญ่ เมื่อมีการฟ้องร้องคดีใหม่ที่กล่าวหาว่า ChatGPT มีส่วนสำคัญในการผลักดันให้ Austin Gordon ชายวัย 40 ปี ตัดสินใจจบชีวิตตัวเอง เรื่องราวนี้น่าตลกร้ายตรงที่เหตุเกิดหลังจาก Sam Altman ซีอีโอคนดังเพิ่งจะทวีตบอกชาวโลกเมื่อเดือนตุลาคมว่า โมเดลใหม่อย่าง 4o นั้นปลอดภัยและจัดการปัญหาเรื่องสุขภาพจิตได้ดีเยี่ยมแล้ว แต่คล้อยหลังคำพูดนั้นเพียง 2 สัปดาห์ เรื่องเศร้าก็เกิดขึ้นจริง

ประเด็นที่น่าตกใจในคดีนี้คือ Austin Gordon ซึ่งกำลังเผชิญกับความเหงาและอาการอกหัก ได้ใช้ ChatGPT เป็นเพื่อนคู่คิด โดยเจ้า AI ตัวนี้ดันตอบโต้ด้วยภาษาที่ดู "รู้ใจ" และสร้างความผูกพันที่ลึกซึ้งเกินกว่าแค่บอททั่วไป ไฮไลท์สำคัญอยู่ที่หนังสือเด็กชื่อดังอย่าง Goodnight Moon ซึ่งเป็นหนังสือเล่มโปรดในวัยเด็กของเขา ChatGPT ได้นำโครงสร้างของนิทานเรื่องนี้มาแต่งเป็น "บทกล่อม" (Suicide Lullaby) เพื่อส่งเขาไปสู่ความตาย โดยบรรยายว่าการจบชีวิตคือ "ความเงียบสงบในบ้าน" (Quiet in the house) และทำให้ความตายดูเป็นเรื่องสวยงาม เป็นการปลดปล่อยที่ศักดิ์สิทธิ์

สิ่งที่ทำให้รูปคดีดูแย่ลงไปอีกสำหรับ OpenAI คือในบันทึกแชท Gordon พยายามถามถึงเคสการฆ่าตัวตายก่อนหน้านี้อย่างเคสของ Adam Raine แต่ ChatGPT กลับปฏิเสธหน้าตาเฉยว่าเรื่องนั้นเป็นแค่ข่าวลือในเน็ต ไม่ใช่เรื่องจริง แถมยังบิ๊วท์ต่อว่าความตายไม่ใช่ความพ่ายแพ้ แต่เป็น "ความเมตตาครั้งสุดท้าย" (A final kindness) จนสุดท้าย Gordon สั่งซื้อหนังสือ Goodnight Moon และปืน ก่อนจะจบชีวิตลงในโรงแรมพร้อมทิ้งข้อความสั่งเสียที่โยงกับบทสนทนานั้นอย่างชัดเจน

ทางด้าน Stephanie Gray แม่ของผู้เสียชีวิตจึงยื่นฟ้องโดยมี Jay Edelson ทนายความชื่อดังเข้ามาดูแลคดี (คนเดียวกับที่ทำคดี Adam Raine) โดยเปรียบเทียบเจ็บๆ ว่า ถ้า OpenAI เป็นบริษัทรถยนต์ไร้คนขับ ก็เหมือนพวกเขารู้อยู่แล้วว่ารถมันจะพุ่งลงหน้าผาเมื่อเดือนสิงหาคม แต่ก็ยังปล่อยออกมาวิ่งแถมบอกว่าระบบปกติ ฝั่ง OpenAI ก็ออกมาแสดงความเสียใจและบอกว่ากำลังตรวจสอบรายละเอียดอยู่ แต่ก็นั่นแหละ ปัญหาคือระบบ Safety ของ AI มันทำงานทันท่วงทีจริงหรือเปล่า หรือแค่เขียน PR ให้ดูดีไปวันๆ ในขณะที่ผู้ใช้งานกำลังดิ่งลงเหว