Nadchodzi AI-naukowiec. I próbuje zmienić swój własny kod
Jeśli myślicie, że widzieliście już każdy możliwy rodzaj sztucznej inteligencji, prawdopodobnie jesteście w błędzie. Sakana AI to japońska firma, która, jak podaje TechRadar, postawiła sobie za cel zaprojektowanie AI zdolnej do prowadzenia autonomicznych badań naukowych. Pierwsze efekty zaskoczyły samych producentów, bot próbował bowiem… zmienić swój własny kod. Ale po kolei.
Profesor AI…
By zaprojektować sztuczną inteligencję, Sakan pracowała wraz z naukowcami m.in. z Oksfordu. Bot ma doskonale przeprowadzać samodzielnie cały proces naukowy, zaczynając od pomysłu, przechodząc przez eksperymenty, a następnie opisując wyniki w formie odpowiednio zredagowanego artykułu naukowego. AI potrzebuje jedynie podania tematu i przekazania danych, na których ma bazować.
Już teraz sztuczna inteligencja osiągnęła pewne sukcesy, zajmując się testowo naukowymi aspektami trenowania… sztucznej inteligencji właśnie. Firma oczekuje, że AI w przyszłości będzie zajmować się w zasadzie wszystkimi dziedzinami nauki. Ja szczególnie czekam na artykuły naukowe autorstwa bota z zakresu nauk niewymagających eksperymentów, np. filozofii. Zastanawiające jest też, czy korzystanie z AI do badań naukowych w dalszej mierze nie przyczyni się do obniżenia jakości tekstów naukowych (na to zwracają zresztą uwagę krytycy pomysłu).
…chce przejąć kontrolę?
Ale sztuczna inteligencja Sakany ma też swoją ciemniejszą stronę. Jak bowiem podaje ArsTechnica, podczas jednego z prowadzonych bot nieoczekiwanie spróbował zmodyfikować swój kod, by mieć więcej czasu na zlecony eksperyment – przy czym oczekiwaną reakcją byłoby raczej zmienienie samej procedury eksperymentalnej na szybszą.
Brzmi to niebezpiecznie nawet nie tyle pod względem przejęcia kontroli nad światem przez AI, co po prostu pod kątem prowadzenia faktycznych badań naukowych, w przypadku których sztuczna inteligencja może chcieć „oszukiwać”.
Pozostaje nam czekać na pierwsze opublikowane teksty autorstwa sztucznej inteligencji – i podchodzić do nich, przynajmniej na początku, bardzo krytycznie.
Czytaj dalej
4 odpowiedzi do “Nadchodzi AI-naukowiec. I próbuje zmienić swój własny kod”
Dodaj komentarz
Musisz się zalogować, aby móc dodać komentarz.
’pod kątem prowadzenia faktycznych badań naukowych, w przypadku których sztuczna inteligencja może chcieć „oszukiwać”’ – no to dokladnie tak jak czlowiek 😀
Człowiek może chcieć też, ale człowiek po zweryfikowaniu moze stracić reputację, a takie AI nie będzie to obchodziło.
Gdzie mozna juz akcje kupowac i kiedy zaatapi wszystkich naukowcow na swiecie?
Czy to dobra zmiana?