AI Mety jest tak niebezpieczne, że nie zostało udostępnione

Znacie tę sytuację, gdy coś uda się wam aż za bardzo? Ten problem właśnie spotkał Metę – jej nowe AI, które odpowiada m.in. za syntezowanie głosu i zamianę tekstu na mowę, jest tak przekonujące, że nie zostanie udostępnione publicznie z uwagi na możliwe ryzyko.

Program o nazwie Voicebox ma kilka ciekawych funkcji. Przykład? Wystarczy mu posłuchać waszego głosu przez dwie sekundy, by móc przeczytać nim każde zdanie, o jakie tylko poprosimy. Meta chwali się, że Voicebox popełnia dużo mniej błędów niż inne AI dźwiękowe na rynku, czyniąc konwersję tekstu na mowę dużo bardziej przekonującą.

Trenowanie Voiceboxa jest znacznie łatwiejsze niż innych AI – żeby program zaczął mówić waszym głosem, wystarczą mu krótkie lub zniekształcone próbki (Voicebox poradzi sobie z szumami, filtrując je). Według Mety różni się to zasadniczo od innych programów, które mają syntezować mowę – wymagają one do trenowania tzw. monotonicznych, czystych danych, które po pierwsze są trudne do pozyskania, a po drugie skutkują AI wypowiadającym się… no cóż, w monotonny sposób. Tak działać ma choćby AI w iOS 17, które, przed nauczeniem go naszego głosu, trzeba będzie godzinę uczyć na czystych próbkach. Voicebox ma zaś wypowiadać się w sposób dynamiczny i bardziej naturalny.

AI trenowano na audiobookach z domen publicznych w sześciu językach – angielskim, francuskim, hiszpańskim, niemieckim, portugalskim i, tak, polskim.

Na rynku są dostępne syntezatory mowy, ale na ich tle Voicebox wydaje się szczególnie niebezpieczny z uwagi na to, jak bardzo potrafi być przekonujący – a przynajmniej tak twierdzi Meta. Z tego powodu nie wiadomo, czy i kiedy Voicebox będzie w ogóle dostępny dla zwykłego użytkownika. We wpisie na blogu firma dwa razy pisze o ryzyku nadużyć oraz wspomina o możliwości skorzystania z AI do wyrządzenia komuś krzywdy.

Voicebox istotnie wydaje się stwarzać zagrożenie np. tworzenia przekonujących nagrań, które miałyby kogoś kompromitować. Szerzej jednak program ma ogromny potencjał do wywołania kryzysu politycznego – choć istnieją już dostępne publicznie symulacje głosów ważnych polityków, Voicebox może wynieść ich realizm na nowy poziom.