Anthropic อัปเดตธรรมนูญ Claude ฉบับใหม่ ย้ำจุดยืน AI สายขาว เน้นปลอดภัยและจริยธรรม

ล่าสุด Anthropic ได้ปล่อยเวอร์ชันปรับปรุงของ Claude’s Constitution หรือธรรมนูญของ Claude เอกสารสำคัญที่ใช้อธิบายบริบทการทำงานและตัวตนของ AI ตัวเก่งอย่าง Claude โดยการเปิดตัวเอกสารนี้เกิดขึ้นพร้อมกับการปรากฏตัวของ CEO อย่าง Dario Amodei ที่งาน World Economic Forum ใน Davos ครับ

ต้องเล่าก่อนว่า Anthropic พยายามสร้างจุดเด่นที่แตกต่างจากคู่แข่งเจ้าอื่น ๆ (ที่มักจะเน้นความหวือหวา) ด้วยสิ่งที่เรียกว่า "Constitutional AI" ระบบที่เทรน Chatbot โดยใช้ชุดหลักการทางจริยธรรมมาควบคุม แทนที่จะพึ่งพา Human Feedback เพียงอย่างเดียว โดยเวอร์ชันใหม่นี้ยังคงหลักการเดิมไว้ แต่เพิ่มรายละเอียดเรื่องจริยธรรมและความปลอดภัยของผู้ใช้ให้ลึกซึ้งยิ่งขึ้นในเอกสารความยาวกว่า 80 หน้า

สำหรับค่านิยมหลัก 4 ประการที่เปรียบเสมือนหัวใจของ Claude ในเวอร์ชันนี้ ได้แก่:
1. ความปลอดภัยในวงกว้าง (Being broadly safe)
2. มีจริยธรรมในวงกว้าง (Being broadly ethical)
3. ปฏิบัติตามแนวทางของ Anthropic
4. มีความช่วยเหลืออย่างแท้จริง (Being genuinely helpful)

ในส่วนของความปลอดภัย Anthropic ออกแบบให้ Claude หลีกเลี่ยงปัญหาที่ Chatbot อื่น ๆ มักเจอ เช่น หากตรวจพบว่าผู้ใช้งานมีปัญหาสุขภาพจิต ระบบจะแนะนำให้ไปหาผู้เชี่ยวชาญหรือหน่วยงานฉุกเฉินทันที หรืออย่างเรื่องการสนทนาเกี่ยวกับการสร้างอาวุธชีวภาพ (Bioweapon) นี่คือข้อห้ามเด็ดขาด ส่วนเรื่องจริยธรรม เขาเน้นให้ Claude ปฏิบัติได้จริงในสถานการณ์ต่าง ๆ (Real-world ethical situations) ไม่ใช่แค่รู้ทฤษฎีแต่ประยุกต์ใช้ไม่เป็น

ที่น่าสนใจคือเรื่อง "ความช่วยเหลือ" ที่ Claude ถูกโปรแกรมให้คำนึงถึงสุขภาวะระยะยาวของผู้ใช้ (Long-term flourishing) ไม่ใช่แค่ตอบสนองความต้องการเดี๋ยวนั้น และทิ้งท้ายเอกสารแบบชวนคิ้วขมวดเล็กน้อยด้วยการตั้งคำถามถึง "สถานะทางศีลธรรมของ AI" ว่าเป็นเรื่องที่ยังไม่แน่นอนอย่างยิ่ง และเป็นคำถามใหญ่ที่นักปรัชญากำลังถกเถียงกันอยู่

ดูทรงแล้ว Anthropic ก็ยังคงคอนเซปต์เป็น AI สายสุภาพ เรียบร้อย และเป็นประชาธิปไตยแบบสุด ๆ แตกต่างจากค่ายอื่นที่เน้นความตื่นเต้นท้าทาย งานนี้ใครชอบสายปลอดภัย สบายใจหายห่วง ก็คงต้องยกให้พี่ Claude เขาเป็นลูกรักอันดับหนึ่งแล้วล่ะ