ทีมวิจัย MIT เปิดตัว Norman ปัญญาประดิษฐ์บรรยายภาพเป็นประโยค (แบบเดียวกับ Show and Tell ของกูเกิล) แต่กลับใช้ชุดข้อมูลจากเว็บบอร์ด subreddit ที่เอาแต่แชร์ภาพคนตาย
ทีมวิจัยไม่เปิดเผยชื่อเว็บบอร์ดเพราะมีภาพรุนแรงจำนวนมาก และเนื่องจากข้อจำกัดทางจริยธรรม ทีมวิจัยใช้ข้อมูลจากเว็บบอร์ดเฉพาะข้อความบรรยายภาพคนตายมาจับคู่กับภาพหมึกกระจาย (inkblot) เท่านั้น ไม่ได้ใช้ภาพคนตายจริงแต่อย่างใด
ผลที่ได้คือปัญญาประดิษฐ์ Norman ที่จะบรรยายภาพทุกอย่างกลายเป็นความรุนแรงไปเสียหมด หลังจากนั้นทีมวิจัยก็ใช้ชุดทดสอบ Rorschach inkblots มาให้ Norman บรรยาย
เนื่องจาก Norman ถูกฝึกมาด้วยภาพคนตาย พอมาบรรยายภาพทดสอบจึงบรรยายกลายเป็นภาพคนตายไปเสียหมด งานวิจัยนี้เป็นการแสดงให้เห็นอันตรายของชุดข้อมูลที่บิดเบี้ยว ว่ามันจะทำให้ปัญญาประดิษฐ์สุดท้ายทำงานผิดปกติได้อย่างไร
ที่มา - Norman AI