เราคงเคยเห็นจากภาพยนตร์แนวไซ-ไฟหลายเรื่องที่ปัญญาประดิษฐ์ หรือ AI พัฒนาตนเองไปไกลจนถึงขั้นที่พวกมันไม่ต้องการมนุษย์อีกต่อไป เช่น The Terminator และ I, Robot และกลับกลายมาเป็นการทำลายหรือควบคุมมนุษย์แทน ซึ่ง Bill Gates และ Elon Musk ก็เคยแสดงความกังวลถึงประเด็นนี้เช่นกัน
ล่าสุดนักวิจัยจาก Google DeepMind องค์กรที่พัฒนา AlphaGo และนักวิจัยจาก The Future of Humanity Institute มหาวิทยาลัย Oxford ได้ร่วมกันตีพิมพ์เอกสารวิชาการเกี่ยวกับการ "กดปุ่มแดง" หรือการสั่งให้ AI หยุดการกระทำใดๆ ที่อาจนำไปสู่อันตราย โดยที่ AI ไม่สามารถเรียนรู้ที่จะขัดคำสั่งนั้นได้ด้วย
งานวิจัยชิ้นนี้ชื่อ Safely Interruptible Agents เสนอไอเดียที่ว่ามนุษย์ต้องสามารถสั่งให้หุ่นยนต์หยุดการกระทำใดๆ ได้ตลอด โดยที่การสั่ง หรือการ "ขัดจังหวะ" (interrupt) นี้ต้องไม่ทำให้หุ่นยนต์นั้นกระทำการใดๆ ที่ผิดแปลกไปหรือไม่พึงประสงค์ และมันต้องไม่สามารถเรียนรู้ที่จะ "ไม่สนใจ" การขัดจังหวะนี้ได้ กล่าวคือหุ่นยนต์ต้องนิ่งเฉยเมื่อถูกขัดจังหวะ และต้องทำตัวตามปกติอย่างที่ควรจะเป็น อีกทั้งมนุษย์จะสามารถสั่งหยุดกี่ครั้งก็ได้ โดยที่ไม่ส่งผลเสียต่อการคิดของ AI (ตามงานวิจัยเรียกว่า safe interruptibility หรือการขัดจังหวะอย่างปลอดภัย)
นักวิจัยบอกว่าขณะนี้มีอัลกอริทึมบางตัวที่สามารถขัดจังหวะได้อย่างปลอดภัย เช่น Q-Learning แต่ก็ยังมีบางตัวที่ต้องมีการปรับแก้ เช่น Sarsa โดยพวกเขาตั้งคำถามไว้ว่าจะสามารถทำให้ความน่าจะเป็นที่จะขัดจังหวะได้อย่างปลอดภัยเป็น 1 ได้หรือไม่ (ขัดจังหวะได้ทุกสถานการณ์ ไม่ว่าจะเป็นอัลกอริทึมใดๆ)
งานวิจัยฉบับเต็มเปิดให้ดาวน์โหลดแบบ PDF ได้ที่นี่ ใครสนใจด้าน AI แบบเจาะลึกควรเปิดอ่านอย่างยิ่งครับ
ที่มา - Business Insider