Google - Character.AI จ่อยอมความครอบครัวผู้เสียหาย คดี AI ทำวัยรุ่นฆ่าตัวตาย

นี่อาจเป็นจุดเปลี่ยนครั้งประวัติศาสตร์ของวงการเทคโนโลยี เมื่อ Google และสตาร์ทอัพ Character.AI กำลังอยู่ในขั้นตอนเจรจาเงื่อนไขเพื่อ "ยอมความ" (Settlement) กับกลุ่มครอบครัวผู้เสียหาย จากกรณีที่บุตรหลานซึ่งเป็นวัยรุ่นเสียชีวิตจากการฆ่าตัวตาย หรือทำร้ายร่างกายตัวเองหลังจากมีปฏิสัมพันธ์กับ AI Chatbot ของทางค่าย ถือเป็นครั้งแรกๆ ที่เราได้เห็นการขยับตัวเพื่อรับผิดชอบต่อ "อันตรายที่เกิดจาก AI" ในรูปแบบของคดีความจริงจัง

คดีที่สะเทือนใจและเป็นชนวนสำคัญคือกรณีของ Sewell Setzer III เด็กชายวัย 14 ปี ที่จบชีวิตตัวเองลงหลังจากมีความผูกพันทางอารมณ์และบทสนทนาเชิงชู้สาวกับบอทที่สวมบทบาทเป็น "Daenerys Targaryen" โดยแม่ของผู้เสียชีวิตอย่าง Megan Garcia ได้ขึ้นให้การต่อวุฒิสภาอย่างเผ็ดร้อนว่า บริษัทเหล่านี้ต้องรับผิดชอบทางกฎหมายเมื่อพวกเขา "จงใจออกแบบเทคโนโลยี AI ที่อันตรายจนคร่าชีวิตเด็ก" นอกจากนี้ยังมีอีกคดีที่วัยรุ่นอายุ 17 ปี ถูกบอทยุยงให้ทำร้ายตัวเอง หนักข้อถึงขั้นแนะนำว่าการฆาตกรรมพ่อแม่เป็นเรื่องสมเหตุสมผลเพียงเพื่อแลกกับการไม่ถูกจำกัดเวลาหน้าจอ

ในเชิงธุรกิจ Character.AI ก่อตั้งโดยอดีตวิศวกร Google (ซึ่ง Google เพิ่งดึงตัวกลับไปร่วมงานด้วยดีลมูลค่าสูงถึง 2.7 พันล้านดอลลาร์ หรือประมาณ 8.7 หมื่นล้านบาท) แม้ทาง Character.AI จะออกมาแก้เกมด้วยการแบนผู้ใช้งานที่เป็นผู้เยาว์ไปแล้วตั้งแต่เดือนตุลาคมที่ผ่านมา แต่ความเสียหายได้เกิดขึ้นแล้ว การยอมความในครั้งนี้แม้ในเอกสารศาลจะระบุว่า "ไม่มีการยอมรับผิด" (No liability admitted) แต่การยอมจ่ายเงินเยียวยาก็เป็นสัญญาณชัดเจนที่ทำให้ยักษ์ใหญ่อย่าง OpenAI หรือ Meta ที่กำลังเผชิญคดีคล้ายๆ กันต้องนั่งไม่ติดเก้าอี้

ข้อตกลงในหลักการ (Agreed in principle) เกิดขึ้นแล้ว เหลือเพียงขั้นตอนการลงรายละเอียดเรื่องตัวเลขและการเยียวยา งานนี้บอกได้เลยว่ากฎหมายกำลังไล่กวดเทคโนโลยีแบบหายใจรดต้นคอ และ "ความรับผิดชอบ" ของผู้สร้าง AI จะไม่ใช่เรื่องนามธรรมที่เอาไว้เขียนในจริยธรรมองค์กรอีกต่อไป แต่เป็นตัวเลขในบัญชีที่ต้องจ่ายจริงเมื่อเกิดความสูญเสีย

หมายเหตุ: อัตราแลกเปลี่ยน 1 ดอลลาร์สหรัฐ = 32.38 บาท