ไมโครซอฟท์ชี้แจง ปัญญาประดิษฐ์ Tay โดนแฮ็ก ทำให้ตอบคำถามผิดเพี้ยน

จากปัญหา Tay AI ของไมโครซอฟท์ที่เปิดมาคุยกับคนในทวิตเตอร์ และตอบคำถามผิดเพี้ยนจากที่ควรจะเป็น จนไมโครซอฟท์ต้องปิดบัญชีไปชั่วคราว ล่าสุดไมโครซอฟท์ออกมาขอโทษ และอธิบายสาเหตุของปัญหาแล้ว

แท้จริงแล้ว ปัญหาของ Tay ไม่ใช่เรื่อง AI ที่เรียนรู้ผิดพลาด แต่กลับเป็น Tay โดนโจมตีจากกลุ่มแฮ็กเกอร์ที่พยายามหาช่องโหว่ ซึ่งไมโครซอฟท์ไม่ได้คาดคิดเรื่องนี้มาก่อน ส่งผลให้ Tay ทำงานผิดพลาด และโพสต์ภาพ-ข้อความที่ไม่เหมาะสมออกมาหลายอย่างจนเป็นข่าวใหญ่ไปทั่วโลก

ไมโครซอฟท์บอกว่านี่เป็นบทเรียนที่ดีของการสร้าง AI ที่ต้องติดต่อสื่อสารกับมนุษย์จำนวนมากๆ ว่าต้องเตรียมตัวมาให้พร้อม ทั้งเรื่องเทคนิคและเรื่องทางสังคม

ที่มา - Microsoft