"Niewidzialna" Toyota Yaris. Pomalowali ją tak, że AI nie potrafiło jej rozpoznać

Czy można oszukać kamery wykorzystujące mechanizmy sztucznej inteligencji? Okazuje się, że tak. Podczas konferencji bezpieczeństwa Def Con w Las Vegas zwykła Toyota Yaris stała się wyjątkowo trudnym celem dla systemu monitoringu. Wszystko za sprawą specjalnego wzoru, który ma zmylić algorytmy sztucznej inteligencji odpowiedzialne za rozpoznawanie obiektów.

Twórcą projektu noRecognition jest specjalista ds. cyberbezpieczeństwa Bill Swearingen. Chcąc ograniczyć możliwość automatycznego śledzenia ludzi w przestrzeni publicznej, stworzył system wykorzystujący uczenie ze wzmocnieniem, który sam uczy się, jak zmylić algorytmy rozpoznawania obrazu.

Swearingen porównuje ten proces do nauki "malowania". Model generuje wzór, a następnie sprawdza go na systemach detekcji. Jeśli sztuczna inteligencja nadal prawidłowo rozpoznaje obiekt, wzór jest modyfikowany i testowany ponownie. W ten sposób algorytm stopniowo uczy się, które elementy najlepiej dezorientują systemy monitoringu.

Twórca projektu twierdzi, że przeprowadził już ok. 31 milionów testów. W efekcie powstały wzory, które mają skutecznie oszukiwać wszystkie 11 testowanych przez niego algorytmów detekcji.

Aby sprawdzić działanie rozwiązania w praktyce, Swearingen wraz z ekipą Donut Media pokryli wspomnianą Toyotę Yaris wygenerowanym wzorem. Samochód przejechał następnie przed kamerą firmy Flock, wykorzystywaną m.in. do automatycznego monitorowania pojazdów i odczytywania tablic rejestracyjnych.

Według Swearingena test zakończył się sukcesem. System miał problem z prawidłowym rozpoznaniem samochodu, choć jednym z większych wyzwań okazało się odpowiednie zamaskowanie kół.

Co ważne, wzór nie blokuje kamery i nie sprawia, że samochód znika z nagrania. Pojazd nadal jest doskonale widoczny dla człowieka. Celem jest oszukanie oprogramowania analizującego obraz, tak aby nie zaklasyfikowało ono obiektu jako samochodu lub nie uruchomiło związanych z nim automatycznych mechanizmów śledzenia.

Projekt ma być odpowiedzią na coraz powszechniejsze wykorzystanie automatycznej analizy obrazu. Swearingen przekonuje, że ludzie powinni mieć możliwość "wypisania się" z automatycznego śledzenia w przestrzeni publicznej. Twierdzi również, że jego metoda potrafi oszukiwać 11 popularnych algorytmów detekcji, w tym rozwiązania wykorzystywane w systemach powiązanych z Flock, kamerach nasobnych Axon oraz technologii Clearview AI.

Twórca noRecognition uruchomił już kampanię crowdfundingową, w ramach której chce oferować ubrania, m.in. koszulki i bluzy, wykorzystujące opracowane wzory. W przyszłości podobne rozwiązania mogą trafić również na samochody w postaci specjalnych folii.

Najskuteczniejsze wzory na razie pozostają tajemnicą. Swearingen nie chce ujawniać ich publicznie, ponieważ producenci systemów monitoringu mogliby szybko przygotować aktualizacje zwiększające odporność algorytmów na tego typu ataki.