Jack Krawczyk ทีมพัฒนา AI ของกูเกิลที่รับผิดชอบโครงการ Bard โพสต์ข้อมูลในทวิตเตอร์ว่าปรับปรุงโมเดลเบื้องหลัง Bard ให้ฉลาดขึ้นในเรื่องคณิตศาสตร์และตรรกะ โดยดึงเอาเทคโนโลยีบางอย่างจากโมเดล PaLM รุ่นล่าสุดของกูเกิลมาใช้งาน
Bard เปิดตัวโดยระบุว่าใช้โมเดล LaMDA ซึ่งเป็นโมเดลรุ่นเก่ากว่า PaLM แถมยังเป็นโมเดล LaMDA รุ่น lightweight อีกต่างหาก เรื่องนี้ Sundar Pichai ซีอีโอของ Alphabet อธิบายไว้ในบทสัมภาษณ์ล่าสุดกับ The New York Times ว่าเป็นความตั้งใจของกูเกิลเอง ที่จะค่อยๆ ปล่อยโมเดลที่มีความสามารถไม่มากนักก่อน เพื่อประเมินดูว่ารับมือไหวแค่ไหน กูเกิลยังมีโมเดลความสามารถสูงกว่านั้นเตรียมเอาไว้แล้ว ซึ่งจะค่อยๆ ใส่เข้ามา เขาบอกว่าใครทำ AI สำเร็จก่อนไม่สำคัญ สิ่งสำคัญคือทำให้มันถูกต้อง (getting it right) ต่างหาก
PaLM เป็นโมเดล AI ที่ใช้สถาปัตยกรรม Pathway ตัวใหม่ โดยมีให้เลือก 3 ขนาด คือ 8 พันล้านพารามิเตอร์, 64 พันล้านพารามิเตอร์, 540 พันล้านพารามิเตอร์ ซึ่งกูเกิลไม่ได้เปิดเผยว่าเอาโมเดลขนาดไหนมาใช้งานกับ Bard
Krawczyk ยังบอกว่าตอนนี้ Bard จะเข้าใจปัญหาคณิตศาสตร์ และคำที่ซับซ้อนมากขึ้นแล้ว ส่วนฟีเจอร์รองรับการโค้ดดิ้งกำลังตามมา เขาบอกว่าแนวทางของกูเกิลคือหาจุดสมดุลระหว่างความสามารถ (capability) กับประสิทธิผล (efficiency) ซึ่งจะค่อยๆ เพิ่มขึ้นเรื่อยๆ
ที่มา - 9to5google