Naukowcy: ludzie bardziej wierzą AI niż innym osobom

Opisujący to zjawisko portal The Verge powołuje się na obszerne badanie opublikowane wczoraj w czasopiśmie naukowym „Science Advances”. Autorzy badania analizują tweety napisane przez sztuczną inteligencję oraz ludzi i dochodzą do wniosku, że chętniej wierzymy treściom wygenerowanym przez AI – zarówno gdy są one prawdziwe, jak i fałszywe.

AI jest przekonujące

Autorzy najpierw skopiowali z Twittera posty na temat jedenastu kontrowersyjnych tematów społecznych, np. ewolucji, szczepionek czy zmiany klimatu. Następnie kazali oni AI – modelowi GPT-3, a więc poprzednikowi obecnych GPT-3.5 i GPT 4 – napisać tweety na te same tematy. Wśród postów autorstwa ludzi i AI znalazły się tweety i prawdziwe, i fałszywe. Badacze następnie poprosili respondentów o odróżnienie faktów od dezinformacji.

Okazuje się, że fake newsy wygenerowane przez GPT-3 są trudniejsze do zidentyfikowania jako fałszywe od tych napisanych przez człowieka. Równocześnie prawdziwe informacje zawarte w tweetach autorstwa AI były częściej identyfikowane jako zgodne z prawdą niż posty ludzi. Innymi słowy: dużo bardziej ufamy treściom wygenerowanym przez sztuczną inteligencję niż wpisom innych osób. A mowa o niedoskonałym i językowo niezręcznym chatbocie GPT-3, którego trudno porównywać z w miarę naturalnie brzmiącym GPT-4.

Rewolucja w newsach?

Oczywiście można kwestionować metodologię badania: jego nierzetelność mógłby np. sugerować fakt, że wszyscy respondenci posługiwali się językiem angielskim i pochodzili najczęściej z Wielkiej Brytanii, Australii, Kanady, Stanów Zjednoczonych i Irlandii. Poza tym w zasadzie nie wiadomo, czy tweety, które autorzy skopiowali z Twittera, również nie były napisane przez sztuczną inteligencję.

Wydaje się jednak, że nawet mimo tych mankamentów raport dobrze pokazuje, że, jak piszą autorzy, „GPT-3 to kij, który ma dwa końce – w porównaniu do ludzi, może produkować trafne informacje, które są łatwiejsze do zrozumienia, ale potrafi też generować dużo bardziej przekonującą dezinformację”.

Według jednego z autorów badania, Giovanniego Spitale, najlepszym sposobem na walkę z fake newsami autorstwa sztucznej intelignecji wciąż pozostaje stare dobre krytyczne myślenie. Spitale ostatecznie mówi:

Nie zrozumcie mnie źle, jestem wielkim fanem tej technologii. Sądzę, że tworząca narrację sztuczna inteligencja zmieni świat… i to od nas zależy decyzja, czy na lepsze.