AI miała tropić kradzieże aut. 71 proc. alertów było fałszywych

Rozwiązania oparte na AI od kilku lat są promowane jako nowe narzędzie do walki z przestępczością. Jednym z nich jest Flock Safety, wykorzystywany przez tysiące społeczności w Stanach Zjednoczonych. System przetwarza co miesiąc miliardy przejazdów: rozpoznaje tablice rejestracyjne oraz cechy auta, takie jak kolor, marka i model, a następnie umożliwia służbom przeszukiwanie rozbudowanej bazy danych.

Szybko wyszło jednak na jaw, że automatyczna identyfikacja pojazdów nie zawsze działa tak, jak oczekują tego użytkownicy. Sprawę nagłośnił Business Insider, opisując przypadki, w których błędy algorytmów prowadziły do fałszywych alarmów.

W Roseville przeprowadzono wewnętrzny audyt działania systemu. Policja przyjrzała się 1427 sytuacjom, w których kamery oznaczyły auto jako skradzione albo potencjalnie związane z przestępstwem. Analiza wykazała, że w 71 proc. przypadków alerty były skutkiem błędnego odczytu tablic rejestracyjnych. W przeliczeniu oznaczało to ponad tysiąc fałszywych zgłoszeń w okresie dwóch lat.

Producent, Flock Safety, tłumaczył, że kłopot miał wynikać ze specyfiki instalacji urządzeń w Roseville. Miasto zdecydowało, że kamery będą rejestrować pojazdy wyłącznie od tyłu — w zamyśle po to, by ograniczyć ryzyko gromadzenia informacji o kierowcach. Według firmy takie ustawienie pogorszyło skuteczność rozpoznawania tablic.

Konsekwencje pomyłek nie ograniczały się do statystyk. Jeden z funkcjonariuszy przyznał, że zapamiętał numer rejestracyjny konkretnego kierowcy, ponieważ system mylnie wskazał go co najmniej sześć razy.

W tych sytuacjach algorytm za każdym razem odczytywał "9" jako "8". Do podobnych przekłamań może dochodzić m.in. wtedy, gdy zdjęcie jest nieostre, tablica zabrudzona albo częściowo zasłonięta — na przykład przez ramkę czy elementy otoczenia.

W Roseville każdy sygnał z kamer był dodatkowo weryfikowany przez policjantów. Dzięki tej procedurze żaden z błędnych alarmów nie zakończył się zatrzymaniem osoby, która nie miała związku z przestępstwem.

Zastrzeżenia wobec systemu Flock pojawiały się również poza Roseville. W Los Angeles policja nie zdecydowała się na przedłużenie kontraktu po audycie, który wskazał, że w ciągu dwóch miesięcy doszło do 161 zatrzymań niewinnych osób. Wśród przyczyn wymieniano m.in. nieaktualne lub nieprawidłowe informacje napływające z innych regionów.

Krytycy podkreślają, że stawką nie jest wyłącznie skuteczność technologii. Według nich rozbudowane systemy monitorowania pojazdów mogą przerodzić się w narzędzie masowej inwigilacji. Kontrowersje wzmacniają zarzuty, że część funkcjonariuszy miała wykorzystywać dostęp do baz danych w sposób niezgodny z przeznaczeniem — m.in. do śledzenia byłych partnerek.

Narzędzia takie jak Flock Safety potrafią realnie wspierać służby w odnajdywaniu skradzionych samochodów czy lokalizowaniu poszukiwanych osób. Przykład z Kalifornii pokazuje jednak, że wdrażanie sztucznej inteligencji w działaniach policji wymaga szczególnej ostrożności i odpowiednich procedur.

Algorytm potrafi przetwarzać ogromne zbiory danych w ułamku sekundy, ale nawet drobna pomyłka może pociągać za sobą poważne konsekwencje dla osoby postronnej. Dlatego coraz częściej powraca pytanie o granicę między wsparciem technologicznym a ryzykowną automatyzacją nadzoru.