ลาก่อนคลาวด์! PrismML เปิดตัว AI 1-bit 'Bonsai 8B' เล็กกว่า 14 เท่า

เทคโนโลยี

1 ครั้ง

0 ความเห็น

3 นาที

Image Credit: Prismml

By Suphansa Makpayab5 เมษายน 2569 12:23

แชร์บทความ

TL;DR

PrismML สตาร์ทอัพจาก Caltech เปิดตัว Bonsai 8B โมเดลภาษาขนาดใหญ่แบบ 1-bit ที่ใช้หน่วยความจำเพียง 1.15 GB เล็กกว่าเดิม 14 เท่า และประหยัดพลังงานขึ้น 5 เท่า หวังดัน AI ให้รันบนสมาร์ทโฟนและอุปกรณ์พกพาได้สบายๆ โดยไม่ต้องพึ่งพาคลาวด์

หมดยุคที่ AI ต้องง้อเซิร์ฟเวอร์ขนาดมหึมาและซดพลังงานเป็นน้ำ เมื่อ PrismML สตาร์ทอัพสายเลือด Caltech ประกาศเปิดตัว Bonsai 8B โมเดลภาษาขนาดใหญ่ (LLM) แบบ 1-bit ที่ฉีกกฎเกณฑ์เดิม ๆ ด้วยการบีบอัดความฉลาดให้อยู่ในไซส์มินิ หวังปลดแอก AI ออกจากคลาวด์ให้มารันบนอุปกรณ์พกพาได้อย่างลื่นไหล

เคล็ดลับความจิ๋วแต่แจ๋วนี้อยู่ที่สถาปัตยกรรมแบบ 1-bit โดยปกติแล้วโมเดล AI ที่ใช้ Transformer Architecture จะมี Weights (ค่าน้ำหนักที่กำหนดการเชื่อมต่อของเซลล์ประสาทจำลอง) ซึ่งมักกินพื้นที่ตามความละเอียดระดับ 16-bit หรือ 32-bit แต่ PrismML จับมันมาบีบอัดให้เหลือแค่ค่า -1 และ +1 เท่านั้น ผลลัพธ์คือ Bonsai 8B ใช้หน่วยความจำไปแค่ 1.15 GB แต่ยังคงความสามารถในการคิดวิเคราะห์ไว้ได้ครบถ้วน

Babak Hassibi ซีอีโอของ PrismML เผยว่า พวกเขาใช้เวลาหลายปีในการพัฒนาทฤษฎีทางคณิตศาสตร์เพื่อบีบอัดโครงข่ายประสาทเทียมโดยไม่เสียความสามารถในการใช้เหตุผลไป ซึ่งสเปกที่กางออกมาก็ถือว่าดุดันเอาเรื่อง เพราะเมื่อเทียบกับโมเดล 8B ทั่วไป Bonsai 8B มีขนาดเล็กลง 14 เท่า ทำงานเร็วขึ้น 8 เท่า และประหยัดพลังงานบน Edge Hardware (อุปกรณ์ปลายทางอย่างสมาร์ทโฟนหรือคอมพิวเตอร์) ได้ถึง 5 เท่า

เพื่อขิงคู่แข่งให้เห็นภาพชัดเจน PrismML ยังได้นำเสนอมาตรวัดใหม่ที่เรียกว่า Intelligence Density (ความหนาแน่นของความฉลาดต่อหน่วยความจำ) ซึ่ง Bonsai 8B ทำคะแนนทิ้งห่างคู่แข่งร่วมรุ่นอย่าง Qwen3 8B ไปแบบไม่เห็นฝุ่น ถือเป็นอีกหนึ่งความเคลื่อนไหวที่น่าจับตาในวงการ AI ไซส์มินิ คล้ายกับที่ Samsung เคยโชว์ของกับโมเดล TRM ไปก่อนหน้านี้ ว่าโมเดลเล็กก็ล้มยักษ์ได้ถ้าโครงสร้างดีพอ

เป้าหมายที่แท้จริงของ PrismML ไม่ใช่แค่การปั่นตัวเลขโชว์ แต่คือการพา AI ออกจาก Data Center มาฝังอยู่ในอุปกรณ์รอบตัวเรา ทั้งหุ่นยนต์แบบ Real-time, ระบบองค์กรที่มีความปลอดภัยสูง ไปจนถึงอุปกรณ์ของ Apple ทั้ง Mac, iPhone และ iPad ผ่าน MLX รวมถึงจีพียูของ NVIDIA โดยตอนนี้เปิดให้ใช้งานแบบ Open Source ภายใต้ไลเซนส์ Apache 2.0 แล้ว พร้อมกับปล่อยรุ่นน้องอย่าง Bonsai 4B และ 1.7B ออกมาเป็นทางเลือกเสริมด้วย

ในขณะที่บิ๊กเทคกำลังทุ่มเงินสร้างศูนย์ข้อมูลระดับกิกะวัตต์ สตาร์ทอัพเจ้านี้กลับเลือกที่จะจับสมองกลมาใส่กล่องไม้ขีดแทน... บางทีอนาคตของ AI อาจไม่ได้อยู่ที่ว่าใครตัวใหญ่กว่า แต่อยู่ที่ว่าใครจะยัดความฉลาดลงกระเป๋ากางเกงได้ก่อนกัน