Stephen Hawking óva int a mesterséges intelligenciátólKönnyű elképzelni, ahogy a technológia okosabb lesz a pénzügyi piacoknál; ahogy jobb feltalálók lesznek az emberi kutatóknál; ahogy kitúrják az emberi vezetőket; ahogy olyan fegyvereket terveznek, amiket egyre kevésbé értünk. Bár az AI rövid távú hatásai attól is függenek, hogy ki irányítja azt, a hosszú távú hatások inkább arról fognak szólni, hogy bárki irányíthatja-e ezeket.
De ha lesz is ilyen rendszer, annak - kikerülve a kontrollunk alól, ahol mi megmondtuk ugye, hogy mi a helyes irány - ugyanúgy el kell indulnia egy hosszú evolúciós folyamaton, hogy kiderüljön, milyen újítása hatékony és egyáltalán miben, mire "szuperentitás" válik belőle... Aztán jön egy egyszerű klímaváltozás, a meleg tönkreteszi a szupravezetőit, és ennyi volt. :) A túlspecializáltság mindenkire veszélyes, akár szén, akár szilícium, akár higany alapú létforma az illető... :)