OpenAI ประกาศตั้งทีม Superalignment ทีมงานวิจัยที่เตรียมการรับมือปัญญาประดิษฐ์ที่ฉลาดเหนือมนุษย์ (superintelligent) เพื่อให้แน่ใจว่าปัญญาประดิษฐ์ยังคงทำตามความตั้งใจของมนุษย์ไม่จับมนุษย์ให้กลายเป็นสัตว์เลี้ยง หรือทำลายมนุษย์ไปเลยเสียก่อน
Superintelligent เป็นปัญญาประดิษฐ์ที่เหนือกว่ามนุษย์อย่างมากจนมนุษย์ไม่สามารถตรวจสอบได้ว่ายังทำงานตามที่มนุษย์ตั้งใจอยู่หรือไม่
แนวทางของ OpenAI จะพัฒนาระบบตรวจสอบระดับเดียวกับมนุษย์ (human-level automated alignment researcher) เพื่อยืนยันว่าระบบนี้ยังพบความผิดปกติของพฤติกรรมได้ จากนั้นก็พยายามสร้างโมเดลมุ่งร้ายมาให้ระบบตรวจสอบนี้ตรวจหาความผิดปกติ
ทาง OpenAI คาดว่าปัญญาประดิษฐ์ระดับเหนือมนุษย์อาจจะพัฒนาสำเร็จภายในปี 2030 และทาง OpenAI จะกันพลังประมวลผล 20% สำหรับโครงการวิจัยนี้โดยเฉพาะ
ที่มา - OpenAI