OpenAI ogłasza nabór do zespołu, który powstrzyma AI przed złem

OpenAI od dawna martwi się tym, że sztuczna inteligencja szybko może stać się zbyt potężna – niedawno pisaliśmy o podpisanym przez Sama Altmana, prezesa firmy, liście otwartym, którego sygnatariusze twierdzili, że ludzkość może wyginąć przez sztuczną inteligencję. Teraz firma ogłasza, że zamierza zebrać zespół najlepszych ekspertów na świecie, którzy pomogą ustalić, w jaki sposób najefektywniej można kontrolować mądrzejsze od nas AI.

Plan czteroletni

We wpisie na blogu OpenAI twierdzi, że superinteligencja będzie „najbardziej wpływową technologią, jaką ludzkość kiedykolwiek wymyśliła”. Przez superinteligencję firma rozumie przyszłe systemy AI, które możliwości będą znacznie potężniejsze niż te ludzkiego mózgu – według OpenAI, pierwsze superinteligentne modele mogą pojawić się w ciągu dekady.

Pojawia się jednak problem: jak w zasadzie mamy kontrolować superinteligencję, jeśli z samej definicji będzie nas ona intelektualnie przewyższać? By rozwiązać tę zagadkę, OpenAI powoła zespół ekspertów, którzy będą próbowali skonstruować systemy do kontroli rozwiniętego AI. Firma poświęci na to 20% swoich zasobów obliczeniowych i będzie oczekiwać efektu w ciągu następnych czterech lat – choć twierdzi, że jest to „niezwykle ambitny cel” i nie ma gwarancji sukcesu.

Ciekawa jest metoda, którą zamierza zastosować OpenAI: firma chce zbudować system sztucznej inteligencji, który, bazując na ludzkich wartościach i celach, będzie kontrolować inne AI. Brzmi to trochę paradoksalnie i przywodzi na myśl scenariusze, w których taki supermodel AI podżega do buntu inne systemy – jeśli jednak zakładamy, że superinteligencja ma być od nas dużo mądrzejsza, to jej kontrolą musi bezpośrednio zajmować się inne AI, a nie człowiek.

Zainteresowani? OpenAI ogłosiło otwarty nabór do zespołu: możecie przesłać firmie swoje CV przez przeznaczoną do tego stronę. Zespół nazwie się „Superalignment” i będzie funkcjonować w San Francisco. Firma tłumaczy, że jako iż skontrolowanie superinteligencji jest „jednym z najważniejszych nierozwiązanych problemów technologicznych naszych czasów”, stara się zrekrutować „najlepsze umysły na świecie”.