Azure เปิดทดสอบให้เช่า VM ที่ใช้จีพียู NVIDIA H100 Hopper รุ่นล่าสุดแล้ว

Microsoft Azure เปิดพรีวิวเครื่อง VM เวอร์ชันใหม่ที่ใช้จีพียู NVIDIA H100 รุ่นใหม่ล่าสุด สถาปัตยกรรม Hopper ที่พัฒนาขึ้นจากจีพียู NVIDIA A100 (Ampere) รุ่นที่ใช้อยู่ในปัจจุบัน หากอิงจากตัวเลขของ NVIDIA เองคือเทรนโมเดลบางประเภทได้เร็วขึ้น 9 เท่า

VM รุ่นนี้ใช้ชื่อว่า ND H100 v5 เลือกจีพียูได้ต่ำสุด 8 ตัว สเกลขึ้นไปได้เป็นหลักพันตัว (ต่อกันผ่าน InfiniBand) สเปกเครื่องมีดังนี้

• 8x NVIDIA H100 Tensor Core GPUs interconnected via next gen NVSwitch and NVLink 4.0
• 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand per GPU with 3.2Tb/s per VM in a non-blocking fat-tree network
• NVSwitch and NVLink 4.0 with 3.6TB/s bisectional bandwidth between 8 local GPUs within each VM
• 4th Gen Intel Xeon Scalable processors
• PCIE Gen5 host to GPU interconnect with 64GB/s bandwidth per GPU
• 16 Channels of 4800MHz DDR5 DIMMs

ตอนนี้ ND H100 v5 VM ยังเปิดให้บริการในวงจำกัด ผู้ที่สนใจจำเป็นต้องลงทะเบียนขอสิทธิการใช้งานก่อน

NVIDIA กับไมโครซอฟท์ยังมีข้อตกลงสร้างซูเปอร์คอมพิวเตอร์ใหม่ที่ใช้สเปกแบบเดียวกัน ซึ่งเป็นไปได้สูงว่าบริการ ND H100 v5 เป็นการตัดบางส่วนของเครื่องมาให้คนนอกเช่าให้งาน ซึ่งในอดีตไมโครซอฟท์เคยมีเครื่องที่ให้บริการ Azure ติด Top 10 ซูเปอร์คอมพิวเตอร์โลกเมื่อปี 2021 ด้วย

ที่มา - Microsoft