ทีมวิจัยจากมหาวิทยาลัยสแตนฟอร์ดและกูเกิลรายงานถึงการใช้โมเดลปัญญาประดิษฐ์ CycleGAN เพื่อสร้างโมเดลที่แปลงภาพถ่ายทางอากาศมาเป็นแผนที่โดยอัตโนมัติ แต่ปรากฎว่าโมเดลที่ได้กลับพยายาม "ซ่อน" ข้อมูลภาพถ่ายที่มองไม่เห็นเอาไว้ในแผนที่ เพื่อให้แปลงแผนที่กลับมาเป็นภาพถ่ายได้อย่างแม่นยำ
CycleGAN เป็นโมเดลปัญญาประดิษฐ์ที่ถูกเสนอเมื่อปี 2017 โดยเสนอว่าแทนที่จะสร้างปัญญาประดิษฐ์สำหรับแปลงข้อมูลทางเดียว เช่นโมเดลแปลงภาพม้าเป็นภาพม้าลาย ก็ให้สร้างโมเดลที่แปลงภาพกลับ จากม้าลายเป็นภาพม้า วนกลับมาเป็นวงกลม แนวทางนี้ทำให้สามารถสร้างภาพโดยไม่ต้องมีภาพที่คู่กันเป็นเฉลยไว้ล่วงหน้า มีเพียงภาพแต่ละประเภทก็เพียงพอ (unpaired training data)
ทีมวิจัยพัฒนาโมเดลสำหรับแปลงภาพถ่ายทางอากาศ 1,000 ภาพคู่กับแผนที่ 1,0000 ภาพ พบว่าเมื่่อรันโมเดลกลับข้างจากแผนที่มาเป็นภาพถ่ายแล้ว คุณภาพของภาพถ่ายที่ได้นั้นสูงมากจนน่าแปลกใจ แม้แต่รายละเอียดเล็กๆ น้อยๆ ก็สามารถสร้างภาพกลับมาได้อย่างแม่นยำเมื่อวิเคราะห์ภาพจึงพบว่าโมเดลพยายามโกงด้วยการซ่อนข้อมูลที่มองไม่เห็นลงในภาพผลลัพธ์ เพื่อให้ได้แผนที่ที่สามารถกู้คืนมาเป็นภาพถ่ายทางอากาศได้ดีขึ้น
งานวิจัยนี้แสดงให้เห็นว่าเราสามารถปรับปรุงคุณภาพโมเดลปัญญาประดิษฐ์ให้ดีขึ้นได้อีก หากเราสามารถป้องกันไม่ให้โมเดลปัญญาประดิษฐ์พยายามซ่อนข้อมูลเช่นนี้ ตัวโมเดลก็น่าจะทำความเข้าใจปัญหาและเป้าหมายได้ตรงไปตรงมา ทำให้ได้โมเดลที่ใช้งานจริงได้มากกว่าเดิม
ที่มา - ArXiv: 1712.02950, TechCrunch