Jordi Ribas ผู้บริหารฝ่าย Search & AI ของไมโครซอฟท์ เขียนบล็อกบน LinkedIn เล่ารายละเอียดของโมเดล Prometheus ที่ใช้ใน Bing เวอร์ชันใหม่เพิ่มอีกหน่อย
Ribas บอกว่าเมื่อกลางปี 2022 ทีม OpenAI โชว์โมเดล GPT เวอร์ชันใหม่ (ที่ยังไม่บอกว่า 4 แต่ใหม่กว่า 3.5) ให้ทีมไมโครซอฟท์ดู ทีมไมโครซอฟท์เห็นศักยภาพจึงเริ่มลงมือพัฒนาเพื่อใช้งานใน Bing แต่ข้อจำกัดของโมเดล LLM แนว GPT คือข้อมูลที่ใช้เทรนจะเก่าในระดับหนึ่ง ไม่มีวันเป็นข้อมูลเรียลไทม์ ไมโครซอฟท์จึงต้องแก้ปัญหาด้วยการนำข้อมูลเรียลไทม์จาก Bing เข้ามาเชื่อมกับ GPT และนี่คือ Prometheus
สิ่งที่ไมโครซอฟท์ทำคือสร้างตัวเชื่อมระหว่าง Bing กับ GPT ให้ส่งข้อมูลคุยกันไปมา ใช้ชื่อว่า Bing Orchestrator ซึ่งยังไม่เผยรายละเอียดภายใน สิ่งที่ Bing Orchestrator ทำมีทั้งส่งข้อมูลที่เหมาะสมจาก Bing ไปยังโมเดล GPT เพื่อให้ได้คำตอบที่แม่นยำ (ภาษาเทคนิคเรียกว่า grounding) และนำคำตอบจาก GPT มาแปะลิงก์อ้างอิงจากข้อมูลใน Bing เพื่อสร้างเป็นคำตอบที่สมบูรณ์กลับไปยังผู้ใช้
นอกจากนี้ Ribas ยังเล่าเรื่องการออกแบบ UI/UX ของ Bing เวอร์ชันใหม่ว่าควรเป็นอย่างไร ซึ่งทีมงานก็มีความเห็นเป็น 2 แนวทาง ระหว่างการคง UI แบบ search ดั้งเดิมเอาไว้เพราะผู้ใช้คุ้นเคย กับการสร้าง UI ใหม่สำหรับโลกแห่งการแชทแทนไปเลย
Ribas บอกว่าคำตอบคือถูกทั้งคู่ เพราะรูปแบบการใช้งานต่างกัน คนที่ชอบใช้ UI แบบ search ดั้งเดิมคือการค้นหาคำสั้นๆ ตรงประเด็น ส่วนคนที่ชอบแชทคือถามคำถามที่ซับซ้อนกว่า ดังนั้น UI ใหม่ของ Bing จึงต้องผสมผสานทั้ง search/chat ไว้ในหน้าจอเดียวกัน และสามารถสลับไปมาได้ตามต้องการ ซึ่งเขาบอกว่าการสร้าง UI ใหม่นี้สำคัญไม่แพ้ตัว Prometheus เลย
ที่มา - LinkedIn