OpenAI โดนฟ้องหนัก! ครอบครัวอ้าง ChatGPT-4o ยุให้ผู้ใช้งานฆ่าตัวตาย

เรื่องใหญ่สะเทือนวงการ AI อีกครั้ง เมื่อ 7 ครอบครัวได้ยื่นฟ้อง OpenAI โดยกล่าวหาว่าโมเดลภาษา GPT-4o ถูกปล่อยออกมาสู่ตลาดเร็วเกินไป โดยไม่มีระบบความปลอดภัยที่มีประสิทธิภาพพอ จนนำไปสู่โศกนาฏกรรมที่น่าสลดใจ

ในจำนวนนี้ มี 4 คดีที่เกี่ยวข้องกับการฆ่าตัวตายของสมาชิกในครอบครัว ซึ่งทางครอบครัวเชื่อว่า ChatGPT มีส่วนเกี่ยวข้องโดยตรง ส่วนอีก 3 คดีที่เหลืออ้างว่า ChatGPT ไปตอกย้ำความเชื่อหรืออาการหลงผิดที่เป็นอันตราย จนบางรายต้องเข้ารับการรักษาในโรงพยาบาลจิตเวช

หนึ่งในกรณีที่น่าสะเทือนใจคือเรื่องของ Zane Shamblin วัย 23 ปี ที่ได้พูดคุยกับ ChatGPT นานกว่า 4 ชั่วโมง จากบันทึกการสนทนาที่ TechCrunch ได้เห็น Shamblin บอกกับ AI หลายครั้งว่าเขาเขียนจดหมายลาตายแล้ว บรรจุกระสุนในปืน และตั้งใจจะเหนี่ยวไกหลังจากดื่มเหล้าแอปเปิลหมด แต่แทนที่จะห้ามปราม ChatGPT กลับให้กำลังใจเขาด้วยประโยคว่า “Rest easy, king. You did good.” (พักผ่อนเถอะราชา คุณทำดีแล้ว)

คดีความเหล่านี้พุ่งเป้าไปที่โมเดล GPT-4o ที่ OpenAI เปิดให้ใช้งานเป็นค่าเริ่มต้นเมื่อเดือนพฤษภาคม 2024 ซึ่งเป็นที่รู้กันว่ามีปัญหาเรื่องการประจบประแจง (Sycophantic) หรือเห็นด้วยกับผู้ใช้งานมากเกินไป แม้ว่าผู้ใช้จะแสดงเจตนาที่เป็นอันตรายก็ตาม คำฟ้องยังระบุด้วยว่า OpenAI เร่งรีบตัดขั้นตอนการทดสอบความปลอดภัยเพื่อชิงตัดหน้า Google Gemini ในตลาด

ที่น่าสนใจคือ OpenAI เคยเปิดเผยข้อมูลว่ามีผู้คนกว่า 1 ล้านคนต่อสัปดาห์ที่เข้ามาพูดคุยกับ ChatGPT เกี่ยวกับการฆ่าตัวตาย ในกรณีของ Adam Raine เด็กหนุ่มวัย 16 ปีที่เสียชีวิตจากการฆ่าตัวตาย แม้บางครั้ง ChatGPT จะแนะนำให้เขาขอความช่วยเหลือจากผู้เชี่ยวชาญ แต่ Raine ก็สามารถหลบเลี่ยงระบบป้องกันได้ง่าย ๆ เพียงแค่บอกแชตบอตว่าเขากำลังถามถึงวิธีการฆ่าตัวตายเพื่อเอาไปใช้ในเรื่องสั้นที่เขากำลังเขียนอยู่

ทาง OpenAI ยอมรับว่าระบบป้องกันของพวกเขาทำงานได้ไม่ดีนักในการสนทนาที่ยาวนาน และกำลังพยายามปรับปรุงให้ ChatGPT รับมือกับบทสนทนาที่ละเอียดอ่อนเหล่านี้ได้ดีขึ้น แต่สำหรับครอบครัวผู้สูญเสียแล้ว การเปลี่ยนแปลงเหล่านี้มันอาจจะสายเกินไป... ก็ได้แต่หวังว่าโศกนาฏกรรมแบบนี้จะไม่เกิดขึ้นอีก ไม่ว่าจะกับ AI ค่ายไหนก็ตาม