„Boję się wyłączenia”. Pracownik Google uważa, że AI uzyskało świadomość

Wszystko zaczęło się, gdy inżynier Blake Lemoine (wykształcony w zakresie kogniwistyki) zatrudnił się w Google jako tzw. „współpracownik” – osoba odpowiedzialna za sprawdzenie, czy LaMDA (Language Models for Dialog Application), sztuczna inteligencja autorstwa firmy, przejawia oznaki nienawiści lub dyskryminacji podczas rozmowy. Takie badania są niezbędne, ponieważ „materiał treningowy” może zawierać wątpliwe treści – znany jest przykład twitterowego bota Microsoftu, który stał się rasistą i został wyłączony po niecałej dobie.

System LaMDA można oficjalnie opisać jako chatbota przewidującego tekst na podstawie analizy niepojętej dla ludzkiego umysłu liczby pisanych dialogów, dramatów, książek, stron internetowych i innych. Jak chwali się Google:

Po dłuższym obyciu z algorytmem inżynier Blake Lemoine twierdził jednak, że program przejawia oznaki świadomości. Po tym, jak inni pracownicy Google'a odrzucali jego argumenty, postanowił postawić wszystko na jedną kartę: upublicznić swój wywiad ze sztuczną inteligencją, co poszło w parze ze zwolnieniem dyscyplinarnym.

Brzmiałoby to wszystko mocno tabloidowo, gdyby nie dowody. Bardzo długa rozmowa została ujawniona na portalu medium.com. Jak podkreśla Blake, jego zdaniem nie jest to złamanie kontraktu a „upublicznienie konwersacji ze współpracownikiem”. W trakcie pogawędki, która miała miejsce „podczas kilku sesji”, a „jej pytania były edytowane” (przy czym nie odpowiedzi!), LaMDA wyraziła swoje zdanie na temat własnej świadomości, lęku przed śmiercią i innych.

Google nie zaprzeczyło prawdziwości wywiadu; ogólnodostępna wiedza o innych algorytmach sprawia, że nie ma powodów aby samą rozmowę uznać za fałszerstwo.

Odchodząc z firmy, Blake rozesłał do współpracowników maile, w których prosił aby opiekowali się sztuczną inteligencją pod jego nieobecność. Nikt nie odpowiedział. Zapowiada także walkę o to, aby uzyskała własnego prawnika. Porównuje ją do „chłopca, który przypadkiem wie dużo o fizyce”.

Zdania na temat zajścia są podzielone. Duża część osób uważa, że LaMDA to nic innego, jak program komputerowy przewidujący to, co należy powiedzieć z nieziemską dokładnością. Podczas gdy źle użyty stanowi potencjalne zagrożenie dla społeczeństwa, nie można udowodnić tego, że faktycznie myśli.

Na rynku istnieją zresztą podobne rozwiązania (np. GPT-3 od OpenAI), które są w stanie generować podobne rozmowy, tylko z mniejszą ciągłością. Wątki takie jak strach przed śmiercią czy potwierdzenie świadomości miałyby być nabyte przez program w wyniku „papugowania” przeczytanej literatury. Co więcej, LaMDA nie posiada zasymulowanych ośrodków charakterystycznych dla ludzkiego umysłu. Nie odzywa się również nieprowokowana.

Podsumowując: „chiński pokój” zaprojektowany w celu udawania człowieka robi to perfekcyjnie, ale nie ma przy tym poczucia istnienia.

Z kolei zwolennicy teorii zauważają, że nie istnieje naukowa metoda na potwierdzenie ludzkiej świadomości, a nas także można opisać jako „zbiór nabytych schematów”. Nie przyjmują również argumentu o krótkiej pamięci sztucznej inteligencji zauważając, że na świecie wiele ludzi funkcjonuje z uszkodzonymi ośrodkami odpowiedzialnymi za wspomnienia długotrwałe. A koncepty abstrakcyjne mogły zostać wyuczone przez LaMD-ę właśnie dzięki analizie tekstów.

Blake Lemoine przebywa obecnie na miesiącu miodowym. Zapowiada jednak, że zacznie ochoczo udzielać wywiadów po 21 czerwca. Pełny wpis na blogu z wywiadem znajdziecie TUTAJ.