In Bostrom's book, "", he defines this as the control problem. Physicist Stephen Hawking, Microsoft founder Bill Gates, and SpaceX founder Elon Musk have echoed these concerns, with Hawking theorizing that such an AI could "spell the end of the human race".
ปัญหาเหล่านี้ เป็นประเด็นในระบบปรัชญาที่เรียกว่า Singularitarianism นักฟิสิกส์ ดร. สตีเฟน ฮอว์คิง, ผู้จัดตั้งบริษัทไมโครซอฟท์ บิล เกตส์, และผู้จัดตั้งบริษัท SpaceX ล้วนแต่ได้แสดงความเป็นห่วง เกี่ยวกับความเป็นไปได้ว่า ปัญญาประดิษฐ์ (AI) อาจจะพัฒนาการไปจนกระทั่งมนุษย์ไม่สามารถควบคุมได้ ดร. ฮอว์คิงได้สันนิษฐานว่า นี้อาจจะเป็น "จุดจบของของมวลมนุษย์"