ChatGPT będzie moderować treści w internecie

Z moderowaniem internetowych treści jest co najmniej kilka problemów. Po pierwsze, pracownicy firm zajmujących się moderacją narażeni są na materiały drastyczne, obrzydliwe i powodujące trwałą traumę. Po drugie, zmęczony i sfrustrowany moderator może nieprawidłowo ocenić pewne treści i przymknąć oko na post, który nigdy nie powinien pojawić się w internecie (lub przeciwnie – zablokować publikację czegoś dopuszczalnego). Wreszcie po trzecie – ludzkim pracownikom trzeba płacić (choć to akurat da się obejść – najlepiej wie o tym samo OpenAI, które zlecało moderację kenijskim pracownikom, wyzyskując ich i płacąc mniej niż 2 dolary za godzinę).

Wszystkie te kłopoty ma rozwiązać pomysł Sama Altmana, który proponuje, by to ChatGPT posłużył do moderacji internetowych treści.

Tanio i efektywnie?

Post na blogu OpenAI cytuje portal The Verge. Firma chwali się, że już teraz korzysta ze sztucznej inteligencji, by rozwijać politykę moderacji swoich własnych treści. OpenAI zaznacza, że w tym tkwi pewna istotna zaleta moderowania za pomocą AI: chatbot jest w stanie w ciągu kilku godzin zaprojektować jasny zbiór zasad odnośnie do moderacji treści, a następnie konsekwentnie się go trzymać przy podejmowaniu decyzji.

Oczywiście już teraz większość dużych firm korzysta ze sztucznej inteligencji przy usuwaniu drastycznych postów; OpenAI prawdopodobnie kieruje swoją propozycję do małych platform, które nie mają pieniędzy, by zainwestować we własne AI do moderacji. Płatny ChatGPT-4 może być dla nich dobrym narzędziem na start.

Wspomniane duże korporacje, m.in. Meta, przekonały się już jednak, że samo AI nie wystarcza do dobrego moderowania. OpenAI zdaje sobie z tego sprawę, podkreślając, że początkowe działania sztucznej inteligencji będą musiały być „dokładnie monitorowane” przez ludzkich pracowników.

Głównym celem uczynienia ChatGPT-4 moderatorem ma być jednak odciążenie ludzi przynajmniej w części zadań moderacyjnych. OpenAI chwali się, że „zredukuje to obciążenie psychiczne”; nietrudno jednak się domyślić, że wcale nie chodzi tu o troskę o pracowników. Firma liczy po prostu, że sztuczna inteligencja będzie tanim moderatorem, który w dodatku nie pozwie korporacji za wyzysk.