Ampere มาแล้ว NVIDIA เปิดตัว A100 จีพียูเซิร์ฟเวอร์และ AI พลัง 19.5 TFLOPS

by nismod
14 May 2020 - 14:25

NVIDIA เปิดตัว A100 จีพียูตัวแรกบนสถาปัตยกรรมใหม่ Ampere โดยเป็นจีพียูสำหรับศูนย์ข้อมูลและงานประมวลผล AI พร้อมด้วยการเปิดตัวเซิร์ฟเวอร์ NVIDIA DGX-A100 ที่ยัดเอาการ์ด A100 ทั้งหมด 8 ใบให้ทำงานร่วมกัน

ตัว NVIDIA A100 มีทรานซิสเตอร์ทั้งหมด 5.4 หมื่นล้านหน่วย บนชิปขนาด 7 นาโนเมตร มี CUDA Core จำนวน 6,912 คอร์ แรมขนาด 40GB บนแบนด์วิธ 1.6Tbps พลังประมวลผลจำนวนเลขทศนิยม (FP32) ที่ 19.5 teraflop

จีพียูตัวก่อนหน้าของ NVIDIA A100 ต้องเทียบกับ NVIDIA Tesla V100 ที่เป็นสถาปัตยกรรม Volta ที่ออกในปี 2017 และเป็นจีพียูตัวแรกที่มี Tensor Core (A100 จะนับเป็น Tensor Core รุ่นที่สาม)

ของใหม่ใน A100 คือการประมวลผลทศนิยมแบบใหม่ที่เรียกว่า Tensor Float (TF32) กับ Floating Point 64 (FP64) โดย TF32 จะเหมือนกับทศนิยมแบบ FP32 ปกติ แต่เปลี่ยนวิธีประมวลผลใหม่ด้วย Tensor Core ให้ความเร็วการประมวลผล AI เร็วขึ้นได้สูงสุดถึง 20 เท่า โดยไม่ต้องแก้ไขโค้ดเดิม

ขณะที่เซิร์ฟเวอร์ DGX-A100 เป็นการเอาการ์ด A100 8 ใบมาทำงานร่วมกันผ่านบัส NVLink ทำให้มีพลังประมวลผลถึง 5 petaflops ส่วนประกอบอื่นๆ คือใช้ซีพียู AMD Epyc 7742 สองชุด, แรมทั้งหมด 320GB, สตอเรจ NVMe 15TB, เน็ตเวิร์คการ์ดของ Mellanox ที่เพิ่งซื้อกิจการมา 9 ใบ มีแบนด์วิธ 2 ทาง (bidirectional) รวมกันกว่า 3.6Tbps

ราคา DGX-A100 เริ่มที่ 199,000 เหรียญสหรัฐ หรือประมาณ 6.4 ล้านบาท ตอนนี้ผู้ให้บริการคลาวด์รายใหญ่เกือบทุกรายก็ประกาศนำ A100 ไปใช้งานในระบบของตัวเอง และผู้ผลิตเซิร์ฟเวอร์หลายรายก็ประกาศเตรียมผลิตเซิร์ฟเวอร์ที่ใช้ A100 เช่นกัน

ที่มา - NVIDIA (1, 2), The Verge

Blognone Jobs Premium