การแฮกเป็นหนึ่งความกังวลสำคัญต่อการใช้งานรถไร้คนขับ ทว่านักวิจัยจากมหาวิทยาลัยวอชิงตันกลับชี้ให้เห็นถึงภัยและอันตรายอีกอย่างที่เกิดได้ง่ายกว่า คือการแก้ไขหรือเปลี่ยนป้ายจราจร ที่อาจก่อให้เกิดอุบัติเหตุได้เลย
อย่างไรก็ตามนักวิจัยระบุว่าไม่ใช่ว่าใครอยู่ๆ จะเอาสติ๊กเกอร์ไปแปะบนป้ายแล้วจะทำให้ Classifier ที่ทำหน้าที่วิเคราะห์คำสั่งหรือคำเตือนของป้าย เข้าใจหรือตีความป้ายหนึ่งๆ เป็นป้ายอื่นได้ง่ายๆ นักวิจัยระบุว่าแฮกเกอร์จะต้องเข้าถึงและเข้าใจการทำงานของอัลกอริทึมก่อน จึงจะสามารถติดสติ๊กเกอร์ที่ป้ายจราจร จนทำให้ตัวรถเกิดความเข้าใจผิดได้
ตัวอย่างที่นักวิจัยทดลองทำคือปริ๊นท์สติ๊กเกอร์สีขาวและสีดำ ไปแปะที่ป้าย Stop สีแดง ปรากฎว่าระบบไร้คนขับอ่านป้ายนี้เป็นป้ายจำกัดความเร็วที่ 45 ไมล์ต่อชั่วโมง
หนึ่งในนักวิจัยระบุว่าถึงแม้ตัว Classifier จะแตกต่างกันบนรถต่างยี่ห้อ แฮกเกอร์ก็สามารถใช้วิธีวิศวกรรมย้อนกลับได้ ขณะเดียวกันเทรนด์ของการใช้ชิปเซ็ตที่ใช้กันอย่างแพร่หลายอย่างของ Mobileye หรือระบบที่เป็นโอเพนซอร์สอย่างของ Comma.ai หรือ Baidu ก็ค่อนข้างน่าเป็นห่วง ซึ่งนักวิจัยระบุว่าการให้ Deep Learning เรียนรู้ป้ายจราจรร่วมกับข้อมูลด้านสภาพแวดล้อมบนแผนที่น่าจะช่วยได้ เช่นว่า ป้ายจำกัดความเร็ว (กรณีที่ป้ายถูกแก้ไข) ไม่น่าจะอยู่ในเมืองเป็นต้น หรือแม้แต่เซ็นเซอร์และกล้องรอบตัวรถไร้คนขับ ก็น่าจะช่วยลดอุบัติเหตุลงไปได้อีกระดับ
ที่มา - Car and Driver