Cloudflare ประกาศเตรียมเปิดบริการ Firewall for AI ชุดความสามารถใหม่สำหรับลูกค้าองค์กรที่เริ่มใช้งานแชตบอตในกลุ่ม LLM เพิ่มขึ้น โดยพยายามป้องกันทั้งการยิงเกินกำหนด, การส่งข้อมูลส่วนบุคคลเข้าออก, และการยิง prompt injection เพื่อเปลี่ยนพฤติกรรมของแชตบอต
บริการชุดนี้จะปิดให้ผู้ใช้คอนฟิกว่าส่วนใดของ JSON เป็น prompt สำหรับ LLM เพื่อมาวิเคราะห์เพิ่มเติม สามารถตั้งไฟร์วอลล์ให้บล็อคแชตได้ตามหัวข้อ เช่น เกี่ยวกับศาสนา, การเมือง, หรือเรื่องทางเพศ
ตอนนี้ Cloudflare เปิดบริการจำกัดปริมาณการใช้งาน และการตรวจสอบข้อมูลส่วนบุคคลออกมาก่อนโดยใช้ได้เฉพาะลูกค้าระดับ Enterprise ส่วนการวิเคราะห์ prompt นั้นกำลังอยู่ระหว่างพัฒนาและจะเปิดให้กับผู้ใช้ Worker AI ทุกคน
ที่มา - Cloudflare