ข้ามไปยังเนื้อหา

NVIDIA RTX PRO 6000 ตัวเดียวรัน AI ชน RTX 5090 4 ตัว กินไฟน้อยกว่า 4 เท่า

เทคโนโลยี
1 ครั้ง
0 ความเห็น
3 นาที
NVIDIA RTX PRO 6000 ตัวเดียวรัน AI ชน RTX 5090 4 ตัว กินไฟน้อยกว่า 4 เท่า
Photo by www.kaboompics.com on Pexels
By Suphansa Makpayab
TL;DR

ผลทดสอบชี้ NVIDIA RTX PRO 6000 สถาปัตยกรรม Blackwell เพียงตัวเดียว สามารถรันโมเดล AI ขนาดใหญ่ได้เร็วสูสีกับ RTX 5090 ถึง 4 ตัวรวมกัน แต่ประหยัดไฟกว่า 4 เท่าและจ่ายถูกกว่า สะท้อนให้เห็นว่าการ์ดจอ Workstation ตัวท็อปคุ้มค่ากว่าการต่อ Multi-GPU สำหรับสาย AI

ใครที่คิดว่าการเอาการ์ดจอเกมมิ่งตัวท็อปมาต่อกันหลายๆ ตัวเพื่อรันโมเดล AI ขนาดใหญ่ (Large AI Models) ที่บ้านคือทางออกที่คุ้มค่าที่สุด อาจจะต้องคิดใหม่ เมื่อมีผลทดสอบล่าสุดออกมาตบหน้าความเชื่อเดิมๆ ว่าบางครั้ง "เจ็บแต่จบ" ด้วยการ์ดจอ Workstation ใบเดียวอาจจะดีกว่า

ผู้ใช้งาน X นามว่า stevibe ได้เผยแพร่ผลการทดสอบรันโมเดล AI ชื่อ MiniMax M2.7 ซึ่งมีพารามิเตอร์ระดับ 230B โดยใช้เทคนิค GGUF Quantization เพื่อบีบอัดขนาดโมเดลให้สามารถทำงานบน VRAM ได้ การทดสอบนี้เปรียบเทียบระบบประมวลผล 4 รูปแบบที่ใช้ชิปจาก NVIDIA ทั้งหมด ซึ่งผลลัพธ์ด้านความเร็วในการสร้าง Token ออกมาดังนี้:

  • 4x RTX 5090 (128GB): 120.54 Tokens/s
  • 1x RTX PRO 6000 (96GB): 118.74 Tokens/s
  • 4x RTX 4090 (96GB): 71.52 Tokens/s
  • DGX Spark (128GB): 24.41 Tokens/s

มองแค่ความเร็วอาจจะดูเหมือน RTX 5090 4 ตัวชนะไปแบบเฉียดฉิว แต่เมื่อกางบิลค่าไฟและราคาฮาร์ดแวร์ออกมาดู ภาพรวมจะเปลี่ยนไปทันที ในด้านการใช้พลังงาน RTX PRO 6000 สถาปัตยกรรม Blackwell กินไฟสูงสุดเพียง 600W ในขณะที่แก๊ง RTX 5090 4 ตัว ซดไฟทะลุ 2,300W (กินไฟมากกว่าเกือบ 4 เท่า)

ส่วนเรื่องราคาประเมินหน้าตู้ การจัด RTX 5090 จำนวน 4 ใบ จะต้องควักกระเป๋าราว US$14,000 (ประมาณ 439,600 บาท) ขณะที่ RTX PRO 6000 ใบเดียวจบที่ US$9,500 (ประมาณ 298,300 บาท) (อ้างอิงอัตราแลกเปลี่ยน 31.40 บาท/ดอลลาร์สหรัฐ ณ วันที่ 9 ก.พ.) สิ่งนี้สะท้อนให้เห็นถึงปัญหาคอขวด (Overhead) ของการทำ Multi-GPU ที่แม้จะมี VRAM รวมมหาศาล แต่การส่งข้อมูลข้ามการ์ดก็ทำให้ประสิทธิภาพโดยรวมไม่ได้พุ่งทะยานตามจำนวนการ์ดเสมอไป

ด้วยประสิทธิภาพระดับนี้ คงไม่น่าแปลกใจนักที่ก่อนหน้านี้ ทางการจีนจะสั่งแบนและกดดันให้บริษัทในประเทศยกเลิกออเดอร์ชิปตระกูล RTX Pro 6000D เพราะขืนปล่อยให้หลุดรอดเข้าไปรัน AI กันเพลินๆ คงขัดใจนโยบายกีดกันทางเทคโนโลยีของฝั่งตะวันตกแย่

สรุปแล้ว สำหรับสายรัน AI ระดับฮาร์ดคอร์ การลงทุนกับการ์ดจอระดับองค์กรใบเดียวนอกจากจะประหยัดพื้นที่และค่าไฟแล้ว ยังไม่ต้องมานั่งปวดหัวตั้งค่า Multi-GPU ให้วุ่นวาย ส่วนเกมเมอร์ก็คงได้แต่ถอนหายใจ เพราะแค่หาซื้อ RTX 5090 ใบเดียวให้ได้ราคาป้ายในยุคนี้ ก็ยากยิ่งกว่าการเทรน AI ให้มีจิตสำนึกเสียอีก

ความเห็น (0)

เข้าสู่ระบบเพื่อแสดงความเห็น

เข้าสู่ระบบ

ยังไม่มีความเห็น

เป็นคนแรกที่แสดงความเห็นในบทความนี้