ช่วงนี้ AI สายตระกูล Large Language Models (LLM) กำลังโด่งดังจากกระแส ChatGPT แต่ข้อเสียของโมเดลใหญ่ขนาดนี้คือขนาดของตัวมันเองที่ใหญ่มาก มีพารามิเตอร์หลักพันล้าน ใช้ข้อมูลการเทรน ทรัพยากรเครื่องจำนวนมหาศาล
ทีมนักวิจัยของไมโครซอฟท์จึงเสนอแนวทาง Language Model ที่มีขนาดเล็กลง แต่ทำงานเฉพาะด้านแทน โดยนำเสนองานวิจัย FLAME ที่ย่อมาจาก First LAnguage Model for Excel หน้าที่ของมันตรงตามชื่อคือเป็นโมเดลภาษาสำหรับ Excel ช่วยแนะนำหรือแก้ไขสูตรในตารางสเปรดชีท
FLAME มีพารามิเตอร์ขนาด 60 ล้านตัว ถือว่าเล็กเมื่อเทียบกับ LLM ชื่อดังทั้งหลายที่มีหลักพันล้านไปจนถึงแสนล้านตัว แต่การออกแบบโมเดล FLAME ให้จำเพาะเจาะจงเรื่องสูตร Excel เพียงอย่างเดียว ทำให้ตัดข้อมูลที่ไม่จำเป็นออกไปได้มาก เมื่อบวกกับเทคนิคอื่นๆ ช่วยให้ FLAME สามารถเอาชนะโมเดลตัวที่ใหญ่กว่าได้สบาย
ตัวอย่างการซ่อมสูตรของ FLAME
เปรียบเทียบผลงานของ FLAME กับโมเดลตัวอื่น
รายละเอียดอื่นๆ ดูได้จาก เปเปอร์ฉบับเต็ม
FLAME ยังมีสถานะเป็นแค่งานวิจัยของไมโครซอฟท์เท่านั้น และยังไม่มีข้อมูลว่าจะถูกนำมาใช้ใน Excel จริงๆ หรือไม่
ที่มา - The Register