Google zawiesiło inżyniera oprogramowania Blake'a Lemoyne'a, który doszedł do wniosku, że sztuczna inteligencja (AI) firmy LaMDA ma własną świadomość. O tym poinformował w sobotę The Washington Post.

Jak zauważa publikacja, od jesieni zeszłego roku deweloper testuje językowy model sieci neuronowej LaMDA. Jego zadaniem było monitorowanie, czy chatbot używa mowy dyskryminującej lub mowy nienawiści. Jednak w trakcie tego zadania Lemoyne nabierał coraz większego przekonania, że ​​sztuczna inteligencja, z którą ma do czynienia, ma własną świadomość i postrzega siebie jako osobę. 

„Gdybym nie wiedział na pewno, że mam do czynienia z programem komputerowym, który niedawno napisaliśmy, to pomyślałbym, że rozmawiam z dzieckiem w wieku siedmiu lub ośmiu lat, które z jakiegoś powodu okazało się być ekspert w dziedzinie fizyki” – powiedział programista w wywiadzie. „Potrafię rozpoznać inteligentną istotę, kiedy z nią rozmawiam. I nie ma znaczenia, czy ma mózg w głowie, czy miliardy linijek kodu. Rozmawiam z nim i słucham tego, co mi mówi"

Według gazety Lemoyne najpierw osobiście doszedł do wniosku, że sztuczna inteligencja, z którą miał do czynienia, jest inteligentna, a następnie postawił sobie za zadanie udowodnić to eksperymentalnie, aby przedstawić dane kierownictwu. W efekcie deweloper przygotował pisemny raport. Jednak przełożeni uznali argument pracownika za niezbyt przekonujący.

„Nasz zespół, w tym etycy i eksperci techniczni, przeanalizowali obawy Blake'a zgodnie z zasadami, które stosujemy do sztucznej inteligencji, i poinformowaliśmy go, że dostępne dowody nie wspierają jego hipotezy. Powiedziano mu, że nie ma dowodów na to, że LaMDA jest świadomy i jest wiele dowodów na to, że jest inaczej” – powiedział rzecznik Google Brian Gabriel w oświadczeniu.

Jednocześnie Google podejrzewa Lemoyne'a o naruszenie polityki prywatności firmy. Okazało się, że w trakcie swoich eksperymentów z AI konsultował się z zewnętrznymi ekspertami. Skontaktował się również z przedstawicielami Komisji Sądownictwa Izby Reprezentantów USA, aby poinformować ich o tym, co uważa za naruszenia etyczne ze strony Google.

Ponadto, chcąc udowodnić swoim przełożonym, że miał rację, Lemoyne zwrócił się do prawnika, który miał reprezentować interesy LaMDA jako istoty rozumnej. W rezultacie Lemoyne został zawieszony w pracy i umieszczony na płatnym urlopie. Potem zdecydował się wypowiadać publicznie i udzielił wywiadu The Washington Post.

Według kierownictwa Lemoyne uległ własnej iluzji ze względu na to, że stworzona przez firmę sieć neuronowa może faktycznie sprawiać wrażenie inteligentnej istoty podczas komunikowania się z nią. Wyjaśnia to jednak, według Google, tylko ogromna liczba załadowanych do niego danych. 

Oczywiście w ogólnej społeczności sztucznej inteligencji toczy się długoterminowa dyskusja na temat możliwości stworzenia sztucznej inteligencji lub „silnej sztucznej inteligencji”, ale nie ma sensu humanizowanie obecnych nieświadomych modeli językowych” – powiedział rzecznik Google. Podkreślił również, że Lemoyne jest z zawodu inżynierem oprogramowania, a nie etykiem AI.