Sztuczna inteligencja jest przez wielu postrzegana jako poważne zagrożenie dla ludzkości. Część specjalistów bardzo niepokoi fakt, że choć nie zdajemy sobie jeszcze sprawy ze wszystkich niebezpieczeństw jakie będą w przyszłości na nas czekać, SI jest rozwijana na potęgę i staje się wszechobecna. Niepokój ten wynika z tego, że w ciągu najbliższych kilkunastu lat sztuczna inteligencja dorówna a następnie przewyższy ludzi w rozumowaniu.

Zdaniem brytyjskiego naukowca Stephena Hawkinga, który w ostatnich latach regularnie porusza ten temat, pewnego dnia SI stanie się zaawansowana do tego stopnia, że będziemy musieli ją uznać jako nową formę życia. Według niego stanie się tak, gdy człowiek opracuje system, który otrzyma umiejętność ciągłego doskonalenia się i samoreplikacji.

W przeszłości Hawking ostrzegał, że sztuczna inteligencja w najlepszym przypadku radykalnie odmieni naszą cywilizację, ale może również doprowadzić do jej upadku. Nastąpi to gdy inteligentne systemy uznają człowieka za zagrożenie dla Ziemi lub siebie samej. Dlatego od kilku lat część naukowców i ekspertów twierdzi, że trzeba stale monitorować rozwój SI i mieć nad nią pełną kontrolę.

Dzisiejsza sztuczna inteligencja posiada coraz większe możliwości. Amerykańska korporacja Google od dłuższego czasu pracuje nad systemem, który będzie potrafił przewidywać konsekwencje podejmowanych przez siebie decyzji. W październiku firma zaprezentowała program AutoML, który samodzielnie ulepszył swój kod źródłowy i stworzył nową wydajniejszą wersję samego siebie. Jak tak dalej pójdzie to obawy Stephena Hawkinga i wielu innych ekspertów ziszczą się szybciej niż nam się wydaje.