Dr Gill Pratt w Toyocie przewiduje przyszłość. Mówi mi, kogo potrąci auto w sytuacji bez wyjścia

Najpierw dostałem wizytówkę. Na niej widnieje napis: dr Gill Pratt, naukowiec, dyrektor Toyota Research Institute. To założony w USA w 2016 roku dział, który zajmuje się przepowiadaniem przyszłości. Ale nie z fusów czy kart tarota, a z obserwacji nowych trendów w robotyce, urbanistyce i etyce.

Taką zdolność przewidywania przyszłości dr. Prattowi dały nie duchy, tylko wykształcenie i naukowe doświadczenie. W 1987 roku zdobył tytuł doktora nauk w dziedzinie sztucznych systemów nerwowych, a w 1990 roku doktora filozofii. W kolejnych latach pracował w najbardziej prestiżowej politechnice świata, Massachusetts Institute of Technology, oraz dla amerykańskiego Departamentu Obrony.

Od kilku lat swoją wiedzą dzieli się z Toyotą, która ma ambicje stać się wiodącym producentem pojazdów autonomicznych i innych rozwiązań z zakresu mobilności, których dziś jeszcze nawet nie znamy. W wywiadzie dr Pratt zdradził mi, dlaczego samochody zastąpią roboty, jak Toyota chce wykorzystać przy ich tworzeniu algorytmy Facebooka i w końcu: jeśli już w krytycznym momencie takie auto będzie musiało kogoś śmiertelnie potrącić, to kogo wybierze.

Na pana wizytówce widnieje tytuł: naukowiec. Czym właściwie zajmuje się pan w Toyocie?

Nasza praca wykracza poza branżę motoryzacyjną. W moim instytucie spędzamy wiele czasu nad rozwojem zagadnień związanych z robotyką. Nasze prace mają sens o tyle, że według nas samochód przyszłości będzie właśnie jak robot: będzie wyposażony w sztuczną inteligencję, będzie czuł i reagował na bodźce.

W naszej pracy musimy brać pod uwagę trendy demograficzne, które już teraz kształtują naszą przyszłość. W nadchodzących dekadach największe wyzwanie w wielu częściach świata będzie stanowiło starzenie się społeczeństwa. Ludzie będą coraz starsi, dlatego już teraz myślimy o tym, jakie maszyny będą mogły ich wesprzeć i zapewnić im pełną sprawność. Jako przykład można podać robota, który będzie wykonywał określone czynności w domu. Jego sposób działania i interakcji z otoczeniem co do zasady będą mogły być takie same co samochodu na ulicy.

Na jakiej zasadzie mogą być takie same? Co ma wspólnego robot w domu z samochodem?

Na tę chwilę najbardziej zaawansowane systemy sztucznej inteligencji są wykorzystywane do tego, by przewidzieć ludzkie zachowanie. Strony takie jak Amazon albo Facebook przetwarzają ogromne ilości danych, by przewidzieć, jakie będą twoje następne działania i przyszłe pragnienia. Gdy się im to uda, mogą dopasować do ciebie najtrafniejsze reklamy, przez co są one skuteczniejsze.

Toyota zastanawia się, czy jesteśmy w stanie użyć tych samych systemów sztucznej inteligencji nie do reklam, ale do stworzenia autonomicznego samochodu. W szerszym kontekście: jak sprawić, by maszyna była lepszym partnerem w życiu dla człowieka, i by dany człowiek mógł wieść takie życie, jakiego pożąda.

Skupienie się na takim produkcie, a właściwie to nawet na usłudze, która wymaga opracowania całego środowiska produktów, całkiem zmienia profil działalności Toyoty. Koncern już teraz pokazuje, jaki może być ostateczny skutek takiego kierunku rozwoju. Autonomiczne systemy najlepiej działają w zamkniętych środowiskach, dlatego Toyota już teraz buduje… własne miasto. Czy to jest kierunek rozwoju dla koncernów motoryzacyjnych? Staną się architektami własnych aglomeracji?

Wydaje mi się, że tak. W tym pytaniu odnosisz się do naszego eksperymentalnego miasta Woven City, którego budowę Toyota rozpoczęła na początku tego roku. To miejsce będzie naszym laboratorium, w którym będziemy mogli testować nowe produkty, których nie da się testować przy obecnym stadium rozwoju infrastruktury drogowej. Ponieważ jest to miejsce eksperymentalne, nie mamy pojęcia, które z testowanych tam produktów zadziałają, a które okażą się najlepsze.

W tym miejscu warto przypomnieć, że Toyota na początku swojej historii była producentem maszyn tkackich i to na nich skupiała się przez wiele lat swojej działalności. Z czasem ewoluowała ona w producenta samochodów i okazało się, że bardzo wiele z części dużej już wtedy firmy mogło ewoluować w produkcję samochodów, a dotychczasowy dorobek miał kluczowy wpływ na sukces w nowej, pionierskiej wtedy branży.

Teraz zadajemy sobie pytanie, jak nasza przewaga, którą mamy na frontach produkcji, finansowania, serwisowania, obsługi posprzedażowej, może być wykorzystywana na kolejnych pionierskich płaszczyznach.

Kolejnym wielkim trendem w przemyśle motoryzacyjnym będzie sztuczna inteligencja. Oznacza to, że samochód ewoluuje w stronę, która zbliża go do innych produktów wysokiej technologii. Takich, które również mają zdolność czucia, przetwarzania informacji i reagowania. Wierzymy, że Toyota będzie miała przewagę na tym przyszłym rynku autonomicznych maszyn z racji wielkiego doświadczenia, które już nabyła jako producent samochodów.

Podobne maszyny rozwijają już teraz również giganci technologiczni spoza branży motoryzacyjnej, tacy jak Apple, Google i Uber. Czy Toyota jest od nich w lepszej pozycji z racji swojego doświadczenia w budowie samochodów?

To wspaniałe pytanie, bo nikt nie zna odpowiedzi. Dochodzimy do tego samego celu z dwóch przeciwnych kierunków. Póki co nie wiemy nawet, gdzie jest sam cel: czy dokładnie pośrodku, czy może bliżej punktu startowego producentów samochodów, a może bliżej miejsca startu firm technologicznych?

Tego nie sposób jeszcze przewidzieć. Ale trend jest ewidentny. Widzę, jak organizacje badawcze Toyoty rekrutują wiele osób, które się zastanawiają, czy pójść do nas, czy do jednego z tych gigantów technologicznych. Albo na przykład pracowały w jednej z tych firm, a teraz pracują dla nas.

To co właściwie będą w przyszłości sprzedawały firmy, które teraz produkują samochody?

Brutalnie szczera odpowiedź brzmi: nie mamy pojęcia. Tego nie wie dziś żaden z producentów samochodów. Budujemy Woven City między innymi po to, by się tego dowiedzieć. Ponownie, tu musimy wyjść poza schemat myślenia o samochodach, a odpowiedzieć na pytanie, jak zapewnić ludziom lepszą jakość życia.

Czy kiedykolwiek uda się stworzyć prawdziwie autonomiczny samochód?

Uważam, że tak, w końcu osiągniemy ten cel. Do jego zrealizowania potrzebujemy jednak zmian nie tylko na polu technologii, ale i społecznym. Nie ma technologii, która nie byłaby obarczona ryzykiem. Każde rozwiązanie czasem będzie trafiało na jakieś błędy, które doprowadzą do wypadków. Kluczowe pytanie brzmi, jak na takie wypadki zareaguje społeczeństwo.

Jest to o tyle trudne pytanie, że ludzie z natury mają bardzo irracjonalne postrzeganie ryzyka. Wypadki lotnicze są spektakularne i każdy trafia od razu na pierwsze strony gazet, dlatego latanie budzi trwogę, a przecież statystycznie to zdecydowanie najbezpieczniejszy środek transportu. Musimy więc już teraz myśleć o tym, jak zareagują ludzie w momencie, gdy coś pójdzie nie tak.

By autonomiczne samochody weszły do powszechnego użytku, niewątpliwie muszą być bardziej bezpieczne od tych prowadzonych przez ludzi. Pytanie brzmi, o ile bezpieczniejsze muszą być, by zostały społecznie zaakceptowane. Dziesięć razy bardziej bezpieczne? A może jeszcze bardziej? Średnio każdego roku na drogach całego świata ginie 1 250 000 osób. Gdybyśmy wszystkie samochody na świecie nagle zastąpili autonomicznymi i po takiej zmianie na drogach zginęłoby w kolejnym roku przez samochody autonomiczne 1 249 999 osób, to byłyby one dobrym rozwiązaniem czy nie?

To pytanie, na które według nas powinni odpowiedzieć nie producenci samochodów, ale społeczeństwo i politycy. Już teraz nasze prototypy autonomicznych samochodów wyposażamy w szereg różnych, wzajemnie kontrolujących się systemów, tak by ograniczać ryzyko potencjalnej krytyki społecznej. Choćby z tego powodu teraz prościej jest wprowadzić na drogi samochód, który jest autonomiczny tylko przez część podróży, a w kluczowych momentach za prowadzenie odpowiada kierowca. Mimo tych wszystkich wyzwań wierzę głęboko, że dotrzemy do celu, jakim jest w pełni autonomiczny pojazd.

To kolejne rozwinięcie tak zwanego dylematu wagonika, czyli abstrakcyjnej sytuacji, w której stojący przy zwrotnicy człowiek może wybrać, czy pędzący wagon ma rozjechać pięć osób, czy też ma zmienić jego bieg i zdecydować, by zabił jedną osobę. Jak w takiej sytuacji powinno się zachować autonomiczne auto?

Uwielbiam to pytanie, bo z jego pomocą pokazuję, że takie dylematy nie są problemem maszyn, tylko ludzi. Ludzie są z natury bardzo złymi kierowcami. Zwykle w sytuacji krytycznej wpadają w panikę i podejmują przypadkowe decyzje, których z perspektywy czasu będą żałować. Innymi słowy: w najgorszych momentach nie podejmują decyzji na podstawie przemyślanej argumentacji, tylko reagują bezrefleksyjnie.

Maszyna z drugiej strony ma wbudowaną zdolność niewpadania w panikę i podejmowania logicznych decyzji. Dlaczego jest to dla nas taka niewygodna myśl? Maszyna nie podejmie gorszej decyzji od człowieka. Podejmie lepszą, poprawi bezpieczeństwo na naszych drogach. Problem polega na tym, że to my, ludzie musimy najpierw zdecydować i jasno określić zasady, do których potem będą stosowały się maszyny.

Są jednak dobre wiadomości. Prawdopodobieństwo, że na drodze zaistnieje taka sytuacja, w której system autonomiczny będzie musiał zdecydować, kogo zabić, będzie bliskie zeru. Lekcja, jaką należy wyciągnąć z dylematu wagonika, to zauważenie, że czynnikiem ograniczającym nie jest tutaj technologia, tylko wyzwanie moralne związane z zapisaniem zasad, które będą społecznie akceptowalne. Same maszyny autonomiczne będą zaprojektowane w taki sposób, by w pierwszej kolejności nie doprowadzać do sytuacji, w której musiałyby podejmować takie decyzje.