กลับสู่ยุคใช้คอมพิวเตอร์แบบ batch, Google Cloud ขายชิปฝึก AI แบบเข้าคิว และจองคิวล่วงหน้า

by lew
7 December 2023 - 14:38

Google Cloud ออกบริการ Dynamic Workload Scheduler แก้ปัญหาลูกค้าไม่สามารถขอใช้ชิปกราฟิกหรือ TPU เพื่อฝึกปัญญาประดิษฐ์ได้ เนื่องจากชิปมีไม่เพียงพอ โดยบริการนี้มี 2 โหมดทำงาน

  1. Flex Start: ระบบเข้าคิวล่วงหน้า ลูกค้าจะต้องแจ้งจำนวนชิปที่ต้องการและระยะเวลาที่ต้องการใช้งาน จากนั้นระบบจะเข้าคิวรอจนกว่าเครื่องจะว่างตามที่ต้องการและเรียกงานขึ้นมารัน โหมดนี้เหมาะสำหรับงานทดลองสั้นๆ หรือการทำ fine-tuning เท่านั้น สามารถรันงานสั้นที่สุดเพียงไม่กี่นาที ไปจนถึงสูงสุด 7 วัน
  2. Calendar: เป็นระบบจองคิวคลัสเตอร์ล่วงหน้า ต้องใช้งาน 7-14 วัน และจองล่วงหน้าได้ 8 สัปดาห์

แนวทางนี้กลับไปคล้ายกับระบบ batch processing ในคอมพิวเตอร์ยุค 1960 ที่คอมพิวเตอร์มีราคาแพงมากๆ และยังไม่มีระบบรันงานแบบขนานเหมือนทุกวันนี้ ผู้ใช้คอมพิวเตอร์จะต้องส่งงานด้วยกระดาษเจาะรูหรือเทปแม่เหล็กไว้ล่วงหน้า และเมื่อถึงคิวรันงานระบบก็จะมาโหลดงานไปรันแล้วพิมพ์ผลลัพธ์ออกมา คอมพิวเตอร์สำหรับฝึกปัญญาประดิษฐ์ทุกวันนี้ก็เกิดปัญหาใกล้เคียงกัน คือคอมพิวเตอร์มีไม่เพียงพอสำหรับการรันงานฝึกปัญญาประดิษฐ์ขนาดใหญ่ การกลับไปใช้แนวคิดแบบเดิมๆ จึงกลับมาอีกครั้ง

ที่มา - Google Cloud Blog

Blognone Jobs Premium