Anthropic โต้ Pentagon ยันไม่มีปุ่ม Kill Switch ปิด AI กลางสนามรบ

ดราม่าระหว่าง Anthropic กับกระทรวงกลาโหมสหรัฐฯ หรือ Pentagon ยังคงดุเดือด ล่าสุดฝั่งผู้พัฒนา AI ตระกูล Claude ได้ยื่นเอกสารต่อศาลเพื่อโต้ข้อกล่าวหาของรัฐบาลที่มองว่าบริษัทอาจแอบแทรกแซงหรือปิดระบบ AI กลางสนามรบ โดยยืนยันเสียงแข็งว่าเรื่องแบบนั้น "เป็นไปไม่ได้ในทางเทคนิค"

ประเด็นนี้สืบเนื่องมาจากการที่ Pentagon ขึ้นบัญชีดำ Anthropic ให้เป็นความเสี่ยงด้านซัพพลายเชน (Supply-Chain Risk) จนทำให้หน่วยงานรัฐต้องทยอยถอด Claude ออกจากระบบ เพราะกังวลว่าหากกองทัพเอา AI ไปใช้วิเคราะห์ข้อมูลหรือวางแผนรบ แล้วบริษัทเกิดไม่พอใจขึ้นมา อาจจะแอบกดปุ่มปิดระบบหรือส่งอัปเดตพังๆ เข้ามาขัดขวางปฏิบัติการทางทหารได้

Thiyagu Ramasamy หัวหน้าฝ่ายภาครัฐของ Anthropic ออกมาชี้แจงผ่านเอกสารว่า บริษัทไม่มีระบบหลังบ้าน (Back Door) หรือปุ่มสั่งตาย (Kill Switch) ใดๆ ทั้งสิ้น เมื่อกองทัพนำ Claude ไปรันบนระบบของตัวเองผ่านผู้ให้บริการ Cloud อย่าง Amazon Web Services ทีมงานก็หมดสิทธิ์เข้าถึงข้อมูล ไม่สามารถอ่าน Prompt ที่ทหารพิมพ์เข้าไป และไม่สามารถส่งอัปเดตใดๆ ได้หากรัฐบาลไม่กดอนุมัติ

ด้าน Sarah Heck หัวหน้าฝ่ายนโยบาย เสริมว่าบริษัทพยายามประนีประนอมสุดๆ แล้ว โดยยื่นข้อเสนอไปเมื่อต้นเดือนมีนาคมว่า Anthropic จะไม่ขอก้าวก่ายหรือใช้สิทธิ์ยับยั้งการตัดสินใจทางทหารที่ถูกกฎหมาย ขอเพียงแค่มีเงื่อนไขเรื่องการใช้ AI คุมอาวุธสังหารที่ต้องมีมนุษย์คอยกำกับดูแล แต่สุดท้ายการเจรจาก็ล่มไม่เป็นท่า

ปัจจุบัน ศาลรัฐบาลกลางในซานฟรานซิสโกเตรียมนัดไต่สวนฉุกเฉินในวันที่ 24 มีนาคมนี้ เพื่อชี้ชะตาว่าจะระงับคำสั่งแบนชั่วคราวหรือไม่ ในขณะที่ลูกค้าฝั่งรัฐบาลบางส่วนเริ่มยกเลิกสัญญาไปแล้ว ส่วน Pentagon ก็กำลังเร่งทำงานกับผู้ให้บริการ Cloud เจ้าอื่นเพื่อล็อกระบบไม่ให้ Anthropic เข้ามาแก้ไขอะไรได้อีก งานนี้คงต้องรอดูกันยาวๆ ว่าระหว่างความมั่นคงของชาติกับจรรยาบรรณของ AI ใครจะเป็นฝ่ายต้องยอมถอย