อินเทลเปิดตัวชิปเร่งความเร็ว AI ตัวใหม่ Gaudi 3 ประสิทธิภาพดีขึ้นจากเดิม 4 เท่า, ท้าสู้ H100

อินเทลเปิดตัวชิปเร่งการประมวลผลปัญญาประดิษฐ์รุ่นใหม่ Intel Gaudi 3 ที่เคยโชว์แผนเมื่อปีที่แล้ว ใช้กระบวนการผลิตระดับ 5 นาโนเมตร

ชิป Gaudi มาจากการซื้อบริษัท Habana Labs ในปี 2019 และอัพเกรดเป็น Gaudi 2 เมื่อปี 2022 โดยเป็นชิปที่อินเทลวางตัวมาแข่งกับชิประดับสูงของ NVIDIA โดยตรง

สถาปัตยกรรมของ Gaudi 3 ประกอบด้วยหน่วยประมวลผลย่อย 3 ตัวในชิปเดียว ได้แก่

• Tensor Processor Cores (TPC) หน่วยประมวลผลหลัก จำนวน 64 ตัว
• Matrix Multiplication Engine (MME) สำหรับประมวลผลเมทริกซ์แบบขนาน จำนวน 8 ตัว
• Networking Interface Cards (NIC) มีหน่วยประมวลผลเครือข่ายในตัวชิปเอง เพื่อประมวลผลทราฟฟิกจาก Ethernet 200 Gb จำนวน 24 พอร์ต ใช้ต่อการ์ดเป็นคลัสเตอร์ขนาดใหญ่ อินเทลบอกว่าตั้งใจเลือกการเชื่อมต่อเป็น Ethernet มาตรฐานแทนการใช้พอร์ตเครือข่ายเฉพาะค่ายแบบเดียวกับที่ NVIDIA ใช้งาน

นอกจากนี้ Gaudi 3 ยังให้แรมขนาด 128GB แบบ HBMe2 แบนด์วิดท์รวม 3.7TB เพื่อให้ประมวลผลข้อมูลขนาดใหญ่ได้บนชิป Gaudi จำนวนน้อยตัวลง เพิ่มประสิทธิภาพและลดต้นทุนค่าศูนย์ข้อมูล ตัวการ์ดยังสามารถเพิ่มส่วนขยาย (add-in) ผ่าน PCIe สำหรับงานเฉพาะด้าน เช่น งานปรับแต่ง fine-tuning หรืองาน retrieval-augmented generation (RAG)

อินเทลเทียบประสิทธิภาพของ Gaudi 3 กับ Gaudi 2 บอกว่ามีประสิทธิภาพด้านงาน AI คำนวณแบบทศนิยม BF16 เพิ่มขึ้น 4 เท่า, มีแบนด์วิดท์แรมเพิ่ม 1.5 เท่า, แบนด์วิดท์เครือข่ายเพิ่ม 2 เท่า

เมื่อเปรียบเทียบกับคู่แข่ง อินเทลเลือกเป็น NVIDIA H100 โดยบอกว่าใช้เวลาเทรนโมเดล (time-to-train) น้อยกว่า 50% (Llama 2 7B/13B) และมีขีดความสามารถในการรันโมเดล (inference throughput) เร็วกว่า 50%

Guadi 3 จะขายผ่านผู้ผลิตเซิร์ฟเวอร์ OEM ภายในไตรมาสที่สองของปี 2024 ที่ระบุชื่อแล้วคือ Dell, Hewlett Packard Enterprise, Lenovo, Supermicro จากนั้นจะวางขายทั่วไปในไตรมาสที่สามของปี

ที่มา - Intel