หัวหน้าทีมวิจัยความปลอดภัยด้านสุขภาพจิตลาออกจาก OpenAI ท่ามกลางกระแสกดดัน

ข่าวใหญ่ในวงการ AI อีกครั้ง เมื่อ Andrea Vallone หัวหน้าทีมวิจัยความปลอดภัย (Model Policy) ของ OpenAI ตัดสินใจโบกมือลาบริษัทในช่วงสิ้นปีนี้ โดยเธอคนนี้คือผู้อยู่เบื้องหลังคนสำคัญที่กำหนดทิศทางว่า ChatGPT ควรตอบโต้กับผู้ใช้งานที่มีปัญหาสุขภาพจิตอย่างไร เรียกว่าเป็นด่านหน้าในการรับมือกับความอ่อนไหวของผู้ใช้งานเลยทีเดียว ซึ่งทาง OpenAI ก็ยืนยันข่าวนี้แล้วพร้อมระบุว่ากำลังเร่งหาคนมาแทนที่

การลาออกครั้งนี้เกิดขึ้นในจังหวะที่ OpenAI กำลังเจอมรสุมลูกใหญ่ ทั้งการถูกจับตามองและโดนฟ้องร้องหลายคดี โดยมีข้อกล่าวหาว่าผู้ใช้งานเกิดความผูกพันกับ ChatGPT มากจนเกินพอดี (Unhealthy Attachments) บางรายถึงขั้นมีปัญหาสุขภาพจิตทรุดลง หรือมีความคิดทำร้ายตัวเอง ซึ่งทาง OpenAI เองก็ไม่ได้นิ่งนอนใจ พยายามปรับปรุงระบบให้รับมือกับเรื่องนี้ได้ดีขึ้น โดยทีมของ Vallone คือหัวหอกในการปรึกษากับผู้เชี่ยวชาญด้านสุขภาพจิตกว่า 170 คนเพื่อหาทางออก

ข้อมูลที่น่าตกใจจากรายงานระบุว่า ในแต่ละสัปดาห์มีผู้ใช้งาน ChatGPT หลายแสนคนที่แสดงอาการเข้าข่ายวิกฤตทางอารมณ์ และมีมากกว่า 1 ล้านคนที่บทสนทนามีสัญญาณบ่งบอกถึงการวางแผนฆ่าตัวตาย ซึ่งทีมงานระบุว่าในการอัปเดต GPT-5 นั้น พวกเขาสามารถลดการตอบโต้ที่ไม่เหมาะสมในเคสเหล่านี้ลงได้ถึง 65-80% เลยทีเดียว

ความท้าทายของ OpenAI ตอนนี้คือการหาจุดสมดุล ระหว่างการทำให้ ChatGPT เป็นเพื่อนคุยที่ "อบอุ่น" น่าใช้งาน แต่ต้องไม่ "เอาใจ" จนผู้ใช้เสพติดหรือหลงผิด เพราะก่อนหน้านี้พอปรับให้โมเดลปลอดภัยขึ้น คนก็บ่นว่า AI เย็นชาเกินไป พอปรับให้คุยสนุก ก็เจอปัญหาเรื่องความผูกพันอีก

งานนี้ดูเหมือนเก้าอี้ทีมความปลอดภัยจะเล่นเก้าอี้ดนตรีกันหน่อย ๆ เพราะก่อนหน้านี้ Joanne Jang หัวหน้าทีม Model Behavior ก็เพิ่งย้ายไปทำโปรเจกต์อื่น การที่คนสำคัญทยอยลุกจากเก้าอี้แบบนี้ ก็ทำเอาหลายฝ่ายอดสงสัยไม่ได้ว่าทิศทางความปลอดภัยของ AI เบอร์หนึ่งของโลกจะเป็นอย่างไรต่อไป หรือว่างานนี้จะเครียดจนคนทำระบบต้องขอพักใจซะเอง