Nvidia เปิดภาพการทดสอบ benchmark ชิป Blackwell B200
NVIDIA เปิดเผยผลเบนช์มาร์คแรกของ จีพียู Blackwell B200 ซึ่งเป็นเบนช์มาร์ค MLPerf Inference: Datacenter ที่ได้รับความนิยมในวงการ AI ที่ทดสอบกับ โมเดล Llama 2 70B
ผลลัพธ์พบว่ามีประสิทธิภาพที่สูงขึ้นต่อจีพียูเมื่อเปรียบเทียบกับชิป H100 (Hopper) ถึง 4 เท่า
ผลการทดสอบจาก NVIDIA ใช้เครื่องซีพียู Xeon Silver 4410Y ร่วมกับชิป B200 แรม 180GB ได้คะแนนดังต่อไปนี้
โหมด Offline (ทดสอบโดยการส่งข้อมูลตัวอย่างทั้งหมดไปยังเซิร์ฟเวอร์ในครั้งเดียว) ได้ 11,264 token/s (เพิ่มขึ้น 3.7 เทียบกับ H100)
โหมด Server (ทดสอบโดยการส่งข้อมูลตัวอย่างไปยังเซิร์ฟเวอร์เป็นรอบๆ ลอยแจ่ม) ได้ 10,756 (เพิ่มขึ้น 4 เทียบกับ H100)
NVIDIA เปิดเผยว่าประสิทธิภาพที่เพิ่มขึ้นมาจาก Blackwell FP4 Transformer Engine ที่ต้องการแปลงโมเดลให้เป็นข้อมูลประเภท FP4 ก่อนช่วยเพิ่มประสิทธิภาพในการเรียกใช้โมเดลอย่างรวดเร็ว เนื่องจากจีพียูมาพร้อมกับเองจินสำหรับการประมวลผล FP4
NVIDIA ยังแสดงผลการเรียกใช้ MLPerf กับ จีพียู H200 รุ่นท็อปที่ใช้แรมเร็ว HBM3e มีการเพิ่มแบนด์วิดท์แรมขึ้น 1.4 เทียบกับ H100
การใช้ จีพียู H200 ในการเรียกใช้โมเดล Llama 2 70B โหมด Server ด้วยจำนวน 8 ตัวได้ผลลัพธ์ที่ 32,790 token/s หรือประมาณ 4,098 token/s ต่อจีพียูหนึ่งตัว
-29% Sold out
โน๊ตบุ๊ค Acer Notebook Nitro AN515-58-50WD Obsidian Black
Original price was: 38,070 ฿.26,990 ฿Current price is: 26,990 ฿.💸 ประหยัดทันที 11,080 บาท (29%)
-36% Sold out
โน๊ตบุ๊ค Acer Notebook Nitro AN515-46-R4Z0 Obsidian Black
Original price was: 41,990 ฿.26,900 ฿Current price is: 26,900 ฿.💸 ประหยัดทันที 15,090 บาท (36%)
-41% Sold out
โน๊ตบุ๊ค Acer Notebook Nitro AN515-46-R8TG Obsidian Black
Original price was: 50,990 ฿.29,990 ฿Current price is: 29,990 ฿.💸 ประหยัดทันที 21,000 บาท (41%)
-37% Sold out
โน๊ตบุ๊ค Acer Notebook Nitro AN515-58-56HV Obsidian Black
Original price was: 45,780 ฿.28,990 ฿Current price is: 28,990 ฿.💸 ประหยัดทันที 16,790 บาท (37%)
-21% Sold out
โน๊ตบุ๊ค Acer Notebook ASPIRE 7 A715-42G-R113
Original price was: 27,990 ฿.21,990 ฿Current price is: 21,990 ฿.💸 ประหยัดทันที 6,000 บาท (21%)
Sold out
