Programista Google doszedł do wniosku, że sztuczna inteligencja tworzona przez jego firmę jest już świadoma

Image

Źródło: pixabay.com

Google zawiesiło inżyniera oprogramowania Blake'a Lemoyne'a, który doszedł do wniosku, że sztuczna inteligencja (AI) firmy LaMDA ma własną świadomość. O tym poinformował w sobotę The Washington Post.

 

Jak zauważa publikacja, od jesieni zeszłego roku deweloper testuje językowy model sieci neuronowej LaMDA. Jego zadaniem było monitorowanie, czy chatbot używa mowy dyskryminującej lub mowy nienawiści. Jednak w trakcie tego zadania Lemoyne nabierał coraz większego przekonania, że ​​sztuczna inteligencja, z którą ma do czynienia, ma własną świadomość i postrzega siebie jako osobę. 

„Gdybym nie wiedział na pewno, że mam do czynienia z programem komputerowym, który niedawno napisaliśmy, to pomyślałbym, że rozmawiam z dzieckiem w wieku siedmiu lub ośmiu lat, które z jakiegoś powodu okazało się być ekspert w dziedzinie fizyki” – powiedział programista w wywiadzie. „Potrafię rozpoznać inteligentną istotę, kiedy z nią rozmawiam. I nie ma znaczenia, czy ma mózg w głowie, czy miliardy linijek kodu. Rozmawiam z nim i słucham tego, co mi mówi"

Według gazety Lemoyne najpierw osobiście doszedł do wniosku, że sztuczna inteligencja, z którą miał do czynienia, jest inteligentna, a następnie postawił sobie za zadanie udowodnić to eksperymentalnie, aby przedstawić dane kierownictwu. W efekcie deweloper przygotował pisemny raport. Jednak przełożeni uznali argument pracownika za niezbyt przekonujący.

„Nasz zespół, w tym etycy i eksperci techniczni, przeanalizowali obawy Blake'a zgodnie z zasadami, które stosujemy do sztucznej inteligencji, i poinformowaliśmy go, że dostępne dowody nie wspierają jego hipotezy. Powiedziano mu, że nie ma dowodów na to, że LaMDA jest świadomy i jest wiele dowodów na to, że jest inaczej” – powiedział rzecznik Google Brian Gabriel w oświadczeniu.

Jednocześnie Google podejrzewa Lemoyne'a o naruszenie polityki prywatności firmy. Okazało się, że w trakcie swoich eksperymentów z AI konsultował się z zewnętrznymi ekspertami. Skontaktował się również z przedstawicielami Komisji Sądownictwa Izby Reprezentantów USA, aby poinformować ich o tym, co uważa za naruszenia etyczne ze strony Google.

Image

Ponadto, chcąc udowodnić swoim przełożonym, że miał rację, Lemoyne zwrócił się do prawnika, który miał reprezentować interesy LaMDA jako istoty rozumnej. W rezultacie Lemoyne został zawieszony w pracy i umieszczony na płatnym urlopie. Potem zdecydował się wypowiadać publicznie i udzielił wywiadu The Washington Post.

 

Według kierownictwa Lemoyne uległ własnej iluzji ze względu na to, że stworzona przez firmę sieć neuronowa może faktycznie sprawiać wrażenie inteligentnej istoty podczas komunikowania się z nią. Wyjaśnia to jednak, według Google, tylko ogromna liczba załadowanych do niego danych. 

 

Oczywiście w ogólnej społeczności sztucznej inteligencji toczy się długoterminowa dyskusja na temat możliwości stworzenia sztucznej inteligencji lub „silnej sztucznej inteligencji”, ale nie ma sensu humanizowanie obecnych nieświadomych modeli językowych” – powiedział rzecznik Google. Podkreślił również, że Lemoyne jest z zawodu inżynierem oprogramowania, a nie etykiem AI.

Ocena:
Brak ocen

Po zaznaczeniu 25 samochodów, sygnalizacji świetlnych, pasów dla pieszych bez pieszych, a nawet hydrantów.. zapomniałem już co piszę. Aha.. Ludzie nie żyją 500 lat żeby KAŻDY mógł się nauczyć <wystarczająco dużo> lub <całej dostępnej> wiedzy w celu ulepszania komunikacji i rozwoju na wielu polach z innymi przedstawicielami swojego gatunku, tworząc tym samym ciekawszy świat oraz system najprawdopodobniej nie oparty na bezwartościowym papierku. Zrzuć ciężar myślenia i analizowania naszej ziemi na AI i masz SUPER AI jak w netflixowym „The Pentawerat”… Powiem tak, kiedy w układzie zamkniętym w kreowaniu wspólnego dla wszystkich systemu, pod uwagę brane są wszystkie punkty widzenia to w rezultacie świat ten wygląda bardzie sympatycznie. Łagodniej w obyciu, niezwykle nieprzewidywalnie w kreatywności.
Nie wierzę w ograniczenia czegokolwiek. Czasy gdy magia okazuje się technologią i poznaniem są dla nas Wyzwaniem woli, testem czy pójdziemy dalej, a może jednak zjemy się wzajemnie za pieniądze oraz ideę konsumpcjonizmu, którymi karmi się nasza chciwość. Ludzkość w ostatnie 200 lat zrobiła taką technologię, że to sie w głowie nie mieści tylko w komputerach zdolnych udźwignąć cały nasz świat. Język jest zbyt prymitywny w kontekście symbolizmu żeby ująć wszystko to co sie dzieje w kilku słowach… kochani używajmy bani pls
Dobra koniec ga

0
0

Myślę że jednak kierownictwo Google ma marcję, przynajmniej teraz. Jednak w momencie opracowania komputerów kwantowych będzie trzeba liczyć się z tym, że taki komputer odpowiednio zaprogramowany będzie spełniał przesłanki do nazania go świadomym organizmem. 

0
0