ทีมงาน Stability.AI รายงานถึงผลทดสอบประสิทธิภาพของชิปฝึกโมเดลปัญญาประดิษฐ์ โดยเทียบระหว่างชิป Intel Gaudi 2, NVIDIA H100, และ NVIDIA A100 พบว่าชิปฝั่งอินเทลนั้นประสิทธิภาพดีกว่ามาก เมื่อรันที่พารามิเตอร์การฝึกใกล้เคียงกัน Gaudi 2 ฝึกภาพได้ถึง 927 ภาพต่อวินาที เทียบกับ H100 ที่ได้ 595 ภาพต่อวินาที คิดเป็น 1.5 เท่าตัว แถมแรมใน Gaudi 2 ยังสูงกว่าอยู่ที่ 96GB ทำให้ปรับพารามิเตอร์เพื่อเร่งความเร็วขึ้นไปอีกได้
อย่างไรก็ดี ฝั่งรันโมเดลนั้น โมเดลทดสอบอย่าง Stable Diffusion 3 ปรับจูนประสิทธิภาพด้วย TensorRT มา ทำให้ประสิทธิภาพการรันบน A100 ดีกว่า Gaudi 2 ถึง 40% แต่เมื่อนำมาใช้รัน LLM อย่าง Stable Beluga 70B ก็ยังได้ประสิทธิภาพดีกว่า A100 อยู่ 28%
ทาง Stability.AI สรุปผลทดสอบว่า Gaudi เป็นตัวเลือกสำคัญสำหรับตลาด เพราะราคาถูกกว่า, ส่งมอบของได้เร็วกว่า, และประสิทธิภาพต่อราคาดีกว่า
ที่มา - Stability.AI