OpenAI przyznało, że nie umie odróżnić tekstu AI od człowieka

Czy kiedykolwiek zastanawialiście się nad tym, czy napotkany post lub artykuł jest faktycznie dziełem człowieka? Cóż, Sam Altman widocznie też miał ten problem, bo w styczniu tego roku powołał do życia AI classifier – narzędzie, które miało pomóc użytkownikom zidentyfikować, czy dany tekst jest napisany przez sztuczną inteligencję. Jak informuje na blogu OpenAI, AI classifier okazał się jednak nieskuteczny i został wyłączony.

System był trenowany na parach tekstów na ten sam temat napisanych przez ludzi i AI. Mierzył się z wieloma ograniczeniami: OpenAI ostrzegało, że jest bardzo niedokładny w przypadku krótkich tekstów (do tysiąca znaków), działa kiepsko w przypadku języków innych niż angielski i często może produkować nieprawdziwe wyniki, głównie twierdząc, że dzieło człowieka zostało napisane przez bota.

Okazało się jednak, że AI classifier jest na tyle nieefektywny, że jego dalsze działanie dalej nie ma sensu. OpenAI zapowiada poszukiwanie nowej metody identyfikowania autorstwa tekstu.