OpenAI udzieli wcześniejszego dostępu do swojego AI rządowi USA

OpenAI budzi kontrowersje. Szczególnie niepokoić mogło rozwiązanie przez szefów firmy w maju zespołu zajmującego się bezpieczeństwem przyszłej superinteligencji. Dwóch ważnych członków zespołu, Jan Leike i Ilya Sutskever, zrezygnowało wtedy z pracy OpenAI i zostało zatrudnionych w innych firmach (kolejno Anthropic i Safe Superintelligence Inc.).

Od tego czasu firma podejmuje różne działania, które niekoniecznie wydają się brać pod uwagę bezpieczeństwo AI, a stawiają raczej na maksymalną wydajność nadchodzących modeli. Wydaje się jednak, że firma Sama Altmana spróbuje oderwać od siebie tę negatywną łatkę. Szef OpenAI chwali się bowiem, że firma będzie współpracować z rządem USA, by zagwarantować, że premierowe modele AI będą bezpieczne.

Jak bowiem podaje TechCrunch, OpenAI znalazło się na celowniku pięciu senatorów z USA, którzy zwrócili się do firmy z listem wyrażającym ich obawy w sprawie bezpieczeństwa sztucznej inteligencji. Twierdzili oni, powołując się na opinie sygnalistów, że OpenAI skupia się na „błyszczących produktach”, a kwestie bezpieczeństwa całkowicie ignoruje.

Właśnie w odpowiedzi na ten list Sam Altman opublikował na Twitterze post, w którym zapowiada m.in. poświęcenie 20% zasobów obliczeniowych na cele związane z bezpieczeństwem (choć krytycy wskazują, że firma zobowiązała się do tego dawno temu i dalej nie wywiązała się z obietnicy). Co w zasadzie najciekawsze, Altman twierdzi, że OpenAI pracuje nad podpisaniem umowy z US Artificial Intelligence Safety Institute, agencją rządową Stanów Zjednoczonych. OpenAI miałoby zapewniać urzędnikom wcześniejszy dostęp do ważnych modeli AI, dzięki czemu mogliby oni ocenić, czy działanie sztucznej inteligencji jest w pełni bezpieczne.

Altman chwali się również, że firma przegłosowała odrzucenie kontrowersyjnych przepisów, które de facto znacząco zniechęcały sygnalistów do raportowania jakichkolwiek nieprawidłowości w OpenAI. 

Możliwe jednak, że słowa Altmana to tylko puste zapowiedzi. Na ich ostateczną weryfikację prawdopodobnie będziemy musieli jeszcze trochę poczekać.