Chat with RTX จาก NVIDIA แชทบอทที่ปลดล็อกศักยภาพ Generative AI บน AI PC ของคุณ
ในบรรดาแชทบอทในท้องตลาดตอนนี้ Chat with RTX จาก NVIDIA ถือว่าเป็นแชทบอทที่มีความแตกต่าง แสดงศักยภาพของ Generative AI บนพีซี Windows ที่ใช้ NVIDIA RTX GPUs ได้อย่างเต็มที่ ใช้งานได้ออฟไลน์ 100% ไม่ต้องกังวลเรื่องความเป็นส่วนตัว
.
ปัจจุบันคนทั่วโลก ใช้งานแชทบอทที่ขับเคลื่อนโดยเซิร์ฟเวอร์ ซึ่งต้องเชื่อมต่อออนไลน์ตลอดเวลา และเซิร์ฟเวอร์เหล่านั้นก็มีขุมพลังจาก NVIDIA GPU อยู่เบื้องหลังการทำงานด้วย แต่การใช้งาน Generative AI จากคลาวด์ไม่ตอบโจทย์การทำงานบนพีซีที่ต้องดึงและค้นข้อมูลบนเครื่องเพื่อทำงาน
.
แต่ Chat with RTX คือเครื่องมือแชทบอทแบบปรับแต่งเองได้ มาในรูปแบบซอฟต์แวร์ที่ผู้ใช้งานต้องดาวน์โหลดเข้ามาไว้ในเครื่อง ทันทีที่ดาวน์โหลด เราสามารถใช้งาน Chat with RTX เข้าถึงข้อมูลบนเครื่องได้ โดยไม่ต้องกังวลว่าข้อมูลสำคัญจะรั่วไหลออกไปข้างนอกเพราะไม่ต้องพึ่งพา LLM จากคลาวด์เจ้าอื่นๆ ทำงานต่อได้แม้ไม่มีอินเทอร์เน็ต
.
ผลลัพธ์ที่ได้จากการใช้งานนั้นมีความเร็ว เมื่อ Chat with RTX ผสานการทำงานเข้ากับ NVIDIA RTX GPUs ที่มีบนเครื่อง และไม่ต้องห่วงว่า Chat with RTX จะทำงานไม่ตรงใจเรา เพราะ Chat with RTX ทำงานโดยใช้ขุมพลังโมเดลภาษาขนาดใหญ่ หรือ LLM ที่เรียกว่า Megatron-Turing NLG 530B โมเดลนี้ได้รับการฝึกฝนบนชุดข้อมูลขนาดใหญ่ ที่ประกอบด้วยข้อความและโค้ดช่วยให้แชทบอทสามารถตอบคำถามได้อย่างครอบคลุม และถูกต้อง และยังมีเทคโนโลยี Retrieval-Augmented Generation (RAG) หรือการเพิ่มข้อมูล คลังความรู้ที่มีความเฉพาะเจาะจงมากขึ้น และ NVIDIA TensorRT-LLM ตัวช่วยเร่งประสิทธิภาพของโมเดล และการเร่งประสิทธิภาพด้วยซอฟต์แวร์ NVIDIA RTX มาผสมผสานกัน มอบประสบการณ์การทำงานแบบไร้ที่ติ
.
แทนที่จะค้นหาผ่านบันทึกหรือเนื้อหาที่บันทึกไว้ ผู้ใช้สามารถพิมพ์คำถามลงใน Chat with RTX ได้เช่น ถามว่า "ร้านอาหารที่เพื่อนของฉันแนะนำ ตอนที่อยู่ในลาสเวกัสคือร้านอะไร" จากนั้น Chat with RTX จะสแกนไฟล์ในเครื่องที่ผู้ใช้ระบุ และให้คำตอบพร้อมกับบริบทที่เกี่ยวข้อง
Chat with RTX รองรับไฟล์ได้หลากหลายฟอร์แมท รวมถึงg .txt, .pdf, .doc/.docx และ .xml. ระบุใน Chat with RTX ไปที่โฟลเดอร์ที่มีไฟล์เหล่านี้ จากนั้นเครื่องมือจะโหลดลงในไลบรารีภายในไม่กี่วินาที
ผู้ใช้ยังสามารถรวมข้อมูลจากวิดีโอ YouTube และเพลย์ลิสต์ได้ การเพิ่ม URL วิดีโอลงใน Chat with RTX ช่วยให้ผู้ใช้งานรวมความรู้จากวิดีโอ เข้ากับแชทบอท เพื่อให้สืบค้นตามบริบท เช่น ขอคำแนะนำจากแชทบอท เรื่องการเดินทาง อ้างอิงเนื้อหาจากวิดีโอของอินฟลูเอนเซอร์ที่ชื่นชอบ หรือให้แชทบอทแนะนำวิธีและการสาธิตแบบเร็วๆ อ้างอิงจากวิดีโอเพื่อการศึกษา เรียกได้ว่าให้ Chat with RTX ทำงานแทนเราได้
Chat with RTX พร้อมให้ดาวน์โหลดฟรี ผู้ใช้ปรับแต่งแชทบอทด้วยเนื้อหาของตนเอง โดยใช้การประมวลผลจากการ์ดจอ NVIDIA GeForce RTX 30 ซีรีส์ หรือรุ่นที่สูงกว่า ภายในเครื่องที่มี หน่วยความจำ VRAM อย่างน้อย 8GB
ดาวน์โหลด Chat with RTX ได้ที่นี่ : https://www.nvidia.com/en-us/ai-on-rtx/chat-with-rtx-generative-ai