NVIDIA โอเพนซอร์สโครงการ NeMo Guardrails ตัวป้องกันแชตบอตตอบนอกเรื่อง, อ้างที่มามั่ว

NVIDIA เปิดตัวโครงการ NeMo Guardrails ตัวควบคุมปัญญาประดิษฐ์ในกลุ่มโมเดลภาษาขนาดใหญ่ (LLM) โดยทำงานร่วมกับโมเดลปัญญาประดิษฐ์ตัวอื่นๆ รวมถึง GPT ของ OpenAI โครงการนี้ควบคุม 3 ด้าน ได้แก่

• ควบคุมหัวข้อการพูดคุย: ไม่ให้ผู้ใช้ล่อให้ตัวปัญญาประดิษฐ์ตอบนอกเรื่อง
• ควบคุมความปลอดภัย: กรองคำตอบให้เหมาะสมไม่มีคำหยาบ และอ้างอิงแหล่งที่มาที่เชื่อถือได้เท่านั้น
• ควบคุมการเจาะระบบ: ในกรณีที่แอปพลิเคชั่นเชื่อมต่อ API ภายนอกได้ ต้องเชื่อมต่อกับ API อย่างปลอดภัย

การคอนฟิก NeMo Guardrails ใช้ภาษาคอนฟิกของโครงการเองที่เขียนได้ง่ายกว่าการเขียน prompt เพื่อควบคุม LLM

ตัวโครงการเป็นโอเพนซอร์ส นำไปใช้งานได้ทันที โดยใช้สัญญาอนุญาต Apache 2.0 และหากต้องการใช้งานผ่านคลาวด์ก็ใช้งานผ่าน NVIDIA AI Foundations ได้เช่นกัน

ที่มา - NVIDIA