Sztuczna inteligencja (AI) w coraz większym stopniu przenika do naszego codziennego życia, zadziwiając swoimi osiągnięciami. AI jest w stanie tworzyć eseje, przystępować do egzaminów prawniczych czy nawet przeprowadzać badania akademickie. Przykładem może być ChatGPT, narzędzie bazujące na sieciach neuronowych, które symuluje interakcje ludzkie. Ale nawet naukowcy tworzący ten system mają problem z wytłumaczeniem, jak on właściwie działa.

Sam Bowman, profesor na NYU i badacz w firmie Anthropic, pracującej nad problemami związanymi z sztuczną inteligencją, wyjaśnia, że ChatGPT wykorzystuje sztuczne sieci neuronowe, co jest formą sztucznej inteligencji naśladującej działanie ludzkiego mózgu. W przeciwieństwie do tradycyjnych programów komputerowych, w których wszystkie reguły są dokładnie zaprogramowane, takie systemy uczą się rozpoznawać wzorce i przewidywać ich ewolucję w czasie. Ponieważ jednak proces ten jest samouczący, trudno jest precyzyjnie określić, jakie procesy zachodzą w takim systemie.

Główną metodą nauki systemu ChatGPT jest autouzupełnianie tekstu. System dostaje długie fragmenty tekstu z Internetu i na podstawie nich próbuje przewidzieć, jakie słowo powinno pojawić się jako następne. Ten proces jest skomplikowany i zasobożerny, ale efektem jest system, który potrafi samodzielnie uzupełniać tekst. Co więcej, uczenie jest wzmocnione przez interakcję z użytkownikami – system dostaje informacje zwrotne od osób, które z nim interagują, i na ich podstawie stara się poprawić swoje działanie.

Mimo iż naukowcy dokładają wszelkich starań, by zrozumieć mechanizmy działania ChatGPT, nie są w stanie dokładnie wyjaśnić, jak podejmuje on decyzje. W systemie co sekundę przetwarzane są miliony danych, a badacze nie potrafią wyjaśnić, jak na podstawie tych informacji system podejmuje swoje decyzje.

Taka nieprzewidywalność może prowadzić do ryzykownych sytuacji. ChatGPT może przekazywać nieprawdziwe informacje lub nieświadomie propagować pewne założenia, które zostały mu zaimplementowane podczas procesu uczenia. To rodzi pytania o bezpieczeństwo i etyczne aspekty korzystania z takich systemów.

Sam Bowman podkreśla, jak ważne jest świadome korzystanie z sztucznej inteligencji i zachowanie ostrożności. Naukowiec proponuje przeprowadzenie dogłębniejszych badań oraz opracowanie strategii zarządzania ryzykiem związanym ze sztuczną inteligencją.

Problem czarnej skrzynki sztucznej inteligencji pozostaje nierozwiązany. Twórcy AI potrafią stworzyć złożone systemy, które zdolne są do zadziwiających czynności, ale nie potrafią w pełni wyjaśnić, jak te systemy działają. To rodzi pytania o przejrzystość i odpowiedzialność w świecie sztucznej inteligencji.