AMD เปิดตัว GAIA ตัวช่วยรันโมเดล LLM แบบโลคัล ปรับแต่งมาเพื่อชิป Ryzen AI

AMD เปิดตัวโครงการโอเพนซอร์สชื่อ GAIA เป็นแอพพลิเคชันบนพีซี ที่ช่วยนำโมเดล LLM มารันบนพีซี และสามารถเร่งความเร็วหากเป็นเครื่องที่มี NPU ของชิป Ryzen AI ด้วย

GAIA คงไม่ต่างอะไรมากกับชุดซอฟต์แวร์แบบเดียวกันที่มีอยู่แล้ว (เช่น ไมโครซอฟท์เองมี Windows Copilot Runtime) มีฟีเจอร์ Retrieval-Augmented Generation (RAG) ช่วยเสริมความรู้เฉพาะทางให้ AI (เช่น คลังเอกสารขององค์กร) เพื่อนำมาสร้างเป็น agent ที่เชี่ยวชาญงานเฉพาะด้าน ตัวอย่างที่ AMD ให้มาคือ agent ที่ช่วยค้นหาข้อมูลจากคลิปใน YouTube, agent เล่นมุขตลก เป็นต้น

GAIA สามารถทำงานบนพีซีวินโดวส์ทั่วไปได้ (ระบบข้างหลังเป็น Ollama) แต่จุดเด่นของมันคือปรับแต่งมาสำหรับชิป Ryzen AI 300 Series ที่ใช้ทั้ง CPU, GPU, NPU ช่วยกันประมวลผลให้มีประสิทธิภาพมากขึ้น ส่วนโมเดลที่รองรับก็เป็นโมเดลโอเพนซอร์สทั่วไป เช่น Llama หรือ Phi

โครงการ GAIA (ชื่อย่อมาจาก Generative AI Is Awesome) เปิดเป็นโอเพนซอร์สบน GitHub

ที่มา - AMD