
ลาก่อนคลาวด์! PrismML เปิดตัว AI 1-bit 'Bonsai 8B' เล็กกว่า 14 เท่า
หมดยุคที่ AI ต้องง้อเซิร์ฟเวอร์ขนาดมหึมาและซดพลังงานเป็นน้ำ เมื่อ PrismML สตาร์ทอัพสายเลือด Caltech ประกาศเปิดตัว Bonsai 8B โมเดลภาษาขนาดใหญ่ (LLM) แบบ 1-bit ที่ฉีกกฎเกณฑ์เดิม ๆ ด้วยการบีบอัดความฉลาดให้อยู่ในไซส์มินิ หวังปลดแอก AI ออกจากคลาวด์ให้มารันบนอุปกรณ์พกพาได้อย่างลื่นไหล เคล็ดลับความจิ๋วแต่แจ๋วนี้อยู่ที่สถาปัตยกรรมแบบ 1-bit โดยปกติแล้วโมเดล AI ที่ใช้ Transformer Architecture จะมี Weights (ค่าน้ำหนักที่กำหนดการเชื่อมต่อของเซลล์ประสาทจำลอง) ซึ่งมักกินพื้นที่ตามความละเอียดระดับ 16-bit หรือ...



















