Unia Europejska uchwaliła przełomowe prawo w kwestii AI

Jak możemy przeczytać na oficjalnej stronie Parlamentu Europejskiego, nowy przepis ma na celu „ochronę praw podstawowych, demokracji, praworządności i równowagi środowiskowej przed sztuczną inteligencją wysokiego ryzyka, jednocześnie pobudzając innowacje i czyniąc Europę liderem w tej dziedzinie”. Rzeczona ustawa wejdzie w życie dwadzieścia dni po jej opublikowaniu w Dzienniku Urzędowym, jednak rozporządzenie wciąż oczekuje na formalne zatwierdzenie ze strony Rady Europejskiej.

W ramach nowych przepisów zakazane zostanie stosowanie aplikacji bazujących na sztucznej inteligencji, które mogą posłużyć do nadzoru biometrycznego i tworzenia baz danych zawierających wizerunki osób pozyskane z Internetu lub nagrań monitoringu wizyjnego. To jednak nie wszystko, jako że zabronione zostanie także wykorzystywanie AI do rozpoznawania emocji w miejscu pracy i szkołach, manipulowania zachowaniem oraz predykcyjnego działania policyjnego. Wzmianki doczekał się także obecny w Chinach system oceny społecznej, który zdecydowanie potępiono.

Mimo że wykorzystywanie systemów identyfikacji biometrycznej przez organy ścigania zostało kategorycznie zakazane, znalazło się miejsce na odstępstwo od tej reguły w szczególnych przypadkach. Zastosować je będzie można jedynie po uprzednim otrzymaniu na to zezwolenia administracyjnego lub sądowego, a sam proceder musi być zarówno ograniczony w czasie, jak i obszarze. Jako przykład działań, w trakcie których możliwe będzie skorzystanie z systemów identyfikacji biometrycznej, Parlament Europejski wymienił m.in. akcje poszukiwawcze zaginionych osób oraz zapobieganie atakom terrorystycznym.

Sporych ograniczeń doczekają się także systemy AI wysokiego ryzyka, czyli takie, których funkcjonowanie może przyczynić się do wyrządzenia potencjalnych szkód dla zdrowia, bezpieczeństwa, praw podstawowych, środowiska, demokracji i praworządności. Tyczy się to przede wszystkim modeli sztucznej inteligencji obecnej w infrastrukturze krytycznej, szkolnictwie, bankowości i służbie zdrowia. Systemy uznane za przynależne do kategorii wysokiego ryzyka będą musiały ograniczać potencjalne ryzyko wynikłe z ich działania, prowadzić dzienniki użytkowania, być maksymalnie przejrzyste i, co najważniejsze, pozostawać pod nadzorem ludzi. Co więcej, obywatele państw członkowskich UE otrzymają możliwość składania skarg na wybrane systemy AI.

Nie upiecze się także sztucznej inteligencji ogólnego przeznaczenia, jako że Artificial Intelligence Act zawiera szereg wymogów, które muszą spełnić, wliczając w to zgodność z unijnym prawem autorskim oraz przejrzystość. Dodatkowo, wygenerowane lub zmodyfikowane z pomocą AI obrazy, treści audio i filmy będą musiały zostać oznaczone jako takie, aby nie pozostawiać pola do domysłu.