OpenAI และ Microsoft Threat Intelligence หน่วยงานความปลอดภัยของไมโครซอฟท์ เปิดเผยผลการศึกษา พบว่ามีหน่วยงานที่มุ่งหวังโจมตีทางไซเบอร์ ได้ประยุกต์ใช้เครื่องมือ AI เพื่อปรับปรุงประสิทธิภาพการโจมตีให้มีโอกาสประสบความสำเร็จมากขึ้น
ทั้งนี้ OpenAI และไมโครซอฟท์บอกว่าการเผยแพร่รายงานนี้ เพื่อแสดงถึงความโปร่งใสของข้อมูล และรายงานความก้าวหน้าของการปรับปรุงบริการ เพื่อไม่ให้เกิดการนำมาใช้งานประเภทนี้ในอนาคต
ตัวอย่างกรณีศึกษาที่ OpenAI นำมาแสดง เป็นองค์กรที่ได้รับการสนับสนุนจากรัฐ โดยใช้ AI ช่วยสร้างสคริปต์ หรือแก้ไขโค้ด ตลอดจนการสร้างคอนเทนต์เพื่อทำ phishing มีการใช้ AI ช่วยตรวจสอบโค้ดที่สามารถหลบเลี่ยงการตรวจจับมัลแวร์ได้ ไปจนถึงใช้สรุปข้อมูลเปิดเผย เกี่ยวกับโปรโตคอลการสื่อสารของเรดาร์ดาวเทียม แล้วนำมาพัฒนาสคริปต์สำหรับโจมตี เป็นต้น
แนวทางที่ OpenAI และไมโครซอฟท์ร่วมกันปรับปรุงป้องกันการใช้ AI ที่ไม่เหมาะสมนี้มีหลายอย่าง ทั้งการตรวจสอบพฤติกรรมที่น่าสงสัย, การหาสัญญาณที่บ่งชี้ว่ามีการใช้ AI อย่างไม่เหมาะสม, ร่วมมือกับองค์กรต่าง ๆ ที่ได้รับผลกระทบ ตลอดจนเปิดเผยข้อมูลต่อสาธารณะเป็นระยะเพื่อให้เกิดการรับรู้
ที่มา: OpenAI และ ไมโครซอฟท์