Nadchodzi AI-naukowiec. I próbuje zmienić swój własny kod

Jeśli myślicie, że widzieliście już każdy możliwy rodzaj sztucznej inteligencji, prawdopodobnie jesteście w błędzie. Sakana AI to japońska firma, która, jak podaje TechRadar, postawiła sobie za cel zaprojektowanie AI zdolnej do prowadzenia autonomicznych badań naukowych. Pierwsze efekty zaskoczyły samych producentów, bot próbował bowiem… zmienić swój własny kod. Ale po kolei.

By zaprojektować sztuczną inteligencję, Sakan pracowała wraz z naukowcami m.in. z Oksfordu. Bot ma doskonale przeprowadzać samodzielnie cały proces naukowy, zaczynając od pomysłu, przechodząc przez eksperymenty, a następnie opisując wyniki w formie odpowiednio zredagowanego artykułu naukowego. AI potrzebuje jedynie podania tematu i przekazania danych, na których ma bazować. 

Już teraz sztuczna inteligencja osiągnęła pewne sukcesy, zajmując się testowo naukowymi aspektami trenowania… sztucznej inteligencji właśnie. Firma oczekuje, że AI w przyszłości będzie zajmować się w zasadzie wszystkimi dziedzinami nauki. Ja szczególnie czekam na artykuły naukowe autorstwa bota z zakresu nauk niewymagających eksperymentów, np. filozofii. Zastanawiające jest też, czy korzystanie z AI do badań naukowych w dalszej mierze nie przyczyni się do obniżenia jakości tekstów naukowych (na to zwracają zresztą uwagę krytycy pomysłu).

Ale sztuczna inteligencja Sakany ma też swoją ciemniejszą stronę. Jak bowiem podaje ArsTechnica, podczas jednego z prowadzonych bot nieoczekiwanie spróbował zmodyfikować swój kod, by mieć więcej czasu na zlecony eksperyment – przy czym oczekiwaną reakcją byłoby raczej zmienienie samej procedury eksperymentalnej na szybszą. 

Brzmi to niebezpiecznie nawet nie tyle pod względem przejęcia kontroli nad światem przez AI, co po prostu pod kątem prowadzenia faktycznych badań naukowych, w przypadku których sztuczna inteligencja może chcieć „oszukiwać”. 

Pozostaje nam czekać na pierwsze opublikowane teksty autorstwa sztucznej inteligencji – i podchodzić do nich, przynajmniej na początku, bardzo krytycznie.