AMD ออกเบนช์มาร์คเปรียบเทียบสมรรถนะของชิป NPU ใน Ryzen Mobile 7040/8040 เทียบกับคู่แข่ง Intel Core Ultra
AMD NPU มีสมรรถนะตามสเปกที่ 16 TOPS ในขณะที่ NPU ของอินเทลทำได้ 10 TOPS แต่รอบนี้ AMD ลองนำมารันโมเดล LLM ยอดนิยมในตลาดอย่าง Llama 2 และ Mistral เปรียบเทียบให้ดูว่าได้ผลเป็นอย่างไร
คะแนนเบนช์มาร์คแยกเป็น จำนวน token ต่อวินาที ที่ชิปของ AMD เหนือกว่าราว 14-17% แต่ถ้าวัดเป็นระยะเวลารอคอยคำตอบ token แรก ในเคสของ Llama 2 ทำเวลาได้เร็วกว่า 71% และเคสของ Mistral ทำได้เร็วกว่า 41%
ประเด็นเรื่อง NPU ของอินเทลมีสเปกต่ำกว่า เป็นเรื่องที่อินเทลรับทราบอยู่แล้ว และบอกว่าในซีพียูรุ่นหน้าโค้ดเนม Lunar Lake จะขยับขึ้นมาเป็น 40 TOPS อย่างไรก็ตาม ตลาด NPU ฝั่งพีซีจะเจอกับ Snapdragon X Elite สมรรถนะ 45 TOPS ที่จะออกสินค้าจริงในช่วงกลางปีนี้
ที่มา - AMD via Tom's Hardware