Londyńskie metro korzysta z AI celem wykrywania przestępstw

Jak dowiedział się serwis Wired, Transport for London, czyli jednostka odpowiedzialna za obsługę sieci metra oraz linii autobusowych, w okresie od października 2022 r. do końca września 2023 r. testował algorytmy monitorujące osoby przemieszczające się przez stację Willesden Green w północnozachodniej części miasta. Bazujące na uczeniu maszynowym oprogramowanie zostało połączone z systemem monitoringu, a jego zadaniem było wykrywanie potencjalnie niebezpiecznych sytuacji oraz agresywnego zachowania przebywających na terenie stacji metra ludzi.

Uśmiech do kamery

W trakcie „eksperymentu” system wysyłał na bieżąco informacje do pracowników stacji, zgłaszając wszelkie wykryte podejrzane zachowania oraz wypadki. Trwający rok test zaowocował 44 tysiącami takich zgłoszeń, a 19 000 z nich zostało dostarczonych w czasie rzeczywistym. Biorąc pod uwagę fakt, że przed pandemią wirusa Covid-19 Willesden Green gościło około 25 000 osób dziennie, wynik ten robi wrażenie.

Nie oznacza to jednak, że sztuczna inteligencja za każdym razem była nieomylna. Wręcz przeciwnie, zdarzały jej się liczne potknięcia – od uznawania dzieci podążających za rodzicami za cwaniaków migających się od uiszczenia opłaty za przejazd, po dość kiepskie radzenie sobie z rozpoznawaniem niektórych przedmiotów. Wedle dokumentów pozyskanych przez redakcję Wired okazjonalnie dochodziło do kuriozalnych sytuacji, kiedy to policjanci wymachiwali maczetami lub pistoletami przed obiektywami kamer. Wszystko to po to, aby system był w stanie wreszcie sklasyfikować je jako niebezpieczne narzędzia i zaczął wysyłać odpowiednie powiadomienie w przypadku wykrycia ich obecności na stacji.

Rzeczony eksperyment z wykorzystaniem algorytmów uczenia maszynowego wzbudził także niemałe poruszenie w środowisku ekspertów ds. prywatności. Jak słusznie zauważono, wiele osób nie wiedziało o trwających testach, a dokładność algorytmów w kwestii rozpoznawania obiektów pozostawiała sporo do życzenia. Zwrócono także uwagę na fakt, że taki system może zostać rozbudowany o bardziej inwazyjne moduły, wliczając w to rozpoznawanie twarzy.

Chociaż ten test nie obejmował rozpoznawania twarzy, wykorzystanie sztucznej inteligencji w przestrzeni publicznej do identyfikowania zachowań, analizowania języka ciała i wnioskowania o cechach chronionych rodzi wiele takich samych naukowych, etycznych, prawnych i społecznych pytań, jakie rodzą technologie rozpoznawania twarzy

A co do powiedzenia na ten temat ma Transport for London, czyli organ stojący za pomysłem wdrożenia w życie kontrowersyjnego systemu analizowania zachowań osób korzystających ze stacji metra?

Zapewniając pracownikom stacji wgląd i powiadomienia o ruchu i zachowaniu klientów metra, jest szansa, że będą w stanie szybciej reagować na wszelkie niebezpieczne sytuacje.

Co więcej, zapowiedziano już, że eksperyment w najbliższych miesiącach wkroczy w drugą fazę.

Obecnie rozważamy projekt i zakres drugiej fazy testów. Nie podjęto żadnych innych decyzji dotyczących rozszerzenia zastosowania tej technologii na kolejne stacje lub zwiększenia jej możliwości. Jakiekolwiek szersze wprowadzenie technologii poza pilotażem będzie zależało od pełnych konsultacji z lokalnymi społecznościami i innymi zainteresowanymi stronami, w tym ekspertami w tej dziedzinie.

Mimo tego, że wedle obecnych zapowiedzi rzeczony system przynajmniej na razie nie trafi na pozostałe stacje, nie oznacza to, że londyńskie metro nie znajdzie innego zastosowania dla sztucznej inteligencji. W trakcie testów AI na Willesden Green pozyskano informacje odnośnie do tego, w jaki sposób niektóre osoby omijają bramki, a co za tym idzie – unikają uiszczania opłaty za skorzystanie z transportu. Jak przekazało Transport for London, zdobyte dane posłużą do zaprojektowania bezpieczniejszych bramek z szerokimi przejściami, jak również do ulepszenia istniejącej „platformy analizy nieregularnych podróży”, która to funkcjonuje w najlepsze i gromadzi informacje na temat osób migających się od płacenia za podróż.

Na koniec warto wspomnieć o tym, że rząd Wielkiej Brytanii już od dłuższego czasu przejawia ciągoty w kierunku systemów nadzoru, wliczając w to te korzystające z rozpoznawania twarzy. Co więcej, sztuczna inteligencja jest coraz powszechniej stosowana przez różnej maści urzędy i służby.