Była ślepo posłuszna GPS-owi. Sprowadził ją na niewłaściwe tory
Siedemdziesięciolatka z Seattle wjechała swoją mazdą na nadziemne tory kolejki miejskiej, bo tak kazała nawigacja. Powoli zaczynamy się dowiadywać, gdzie może zaprowadzić nas ślepe zaufanie do technologii.
Wszyscy to przeżyliśmy i dobrze znamy ten moment. Nawigacja mówi „skręć w lewo”, a ty wiesz – albo gdzieś w głębi duszy czujesz – że po lewej jest rzeka albo ściana bloku. Skręcasz? Na razie większość z nas jeszcze ma filtr i zwykle jednak własny ogląd stawia ponad robotyczną instrukcję, ale jak długo jeszcze tak będzie? Przyglądając się młodszym pokoleniom, mam nieodparte wrażenie, że niedługo. Bo przecież telefon wie lepiej.
Chociaż, jak widać, problem nie jest zarezerwowany tylko dla młodszych pokoleń. Oto siedemdziesięcioletnia kobieta w Seattle wjechała swoją mazdą na tory kolejowe, podobno podążając za wskazaniami GPS. Nie był to przejazd przez tory – to byłoby zbyt banalne. Kierująca pokonała paręset metrów po szynach, dojeżdżając aż na nadziemny odcinek stacji. Czerwony SUV w końcu utknął na przystanku kolejki podmiejskiej – sześć metrów nad ziemią. Nawigacja mogła z satysfakcją zarechotać, ale ponoć tylko stoicko milczała.
Myślenie? A komu to potrzebne?
Zdjęcia z miejsca zdarzenia, które szybko obiegły internet, pokazują 70-letnią kierującą obok auta z rękami opartymi na biodrach – jakby zastanawiała się, kto jest winien całego tego zamieszania. Odpowiedź jest prosta: nikt konkretny, bo wszyscy jesteśmy trochę winni. Winni zbiorowej umowy z technologią, która mówi: mniej myśl, więcej słuchaj.
Służby ratownicze musiały najpierw odciąć zasilanie torów, a następnie sprowadzić specjalny pojazd szynowy wyposażony w pasy, by wyciągnąć biedną mazdę z torowiska. Całą operację relacjonowała lokalna telewizja (i zapewne setki lajwów na socialach). Ruch na linii był wstrzymany przez dwie godziny. Kierująca trafiła do szpitala na badania. Policja potwierdziła, że była trzeźwa i nie zostaną jej postawione żadne zarzuty karne. Przydałoby się za to dodatkowe badanie okulistyczne i skierowanie na kurs asertywności.
My mamy swoich asów
Można by pomyśleć, że to egzotyczna przypadłość zza oceanu, gdzie drogi są szerokie, a wyobraźnia wąska. Tymczasem Polska ma własną kronikę GPS-owej posłuszności.
W Lublinie kierowca toyoty wjechał na torowisko w okolicach przystanku kolejowego Lublin Północ, tłumacząc interweniującym służbom, że tak właśnie poprowadziła go nawigacja. Mężczyzna był trzeźwy. Po prostu zaufał algorytmowi bardziej niż własnym oczom.
Z kolei w Małopolsce kierująca skodą skręciła w lewo bezpośrednio na przejeździe kolejowym w Niegoszowicach, gdzie jej pojazd utknął. Jak zaznaczało PKP, które udostępniło archiwalne nagranie ku przestrodze, kierującej wyraźnie zabrakło należytej uwagi i zdrowego rozsądku. Trudno z tym polemizować.
Schemat jest wszędzie ten sam: człowiek wsiada do auta, uruchamia aplikację, wyłącza mózg i jedzie. Prosto na tory albo do jeziora.
A co z autem, które jedzie samo?
Tu nasuwa mi się pytanie – skoro człowiek z nawigacją potrafi wjechać na nadziemne tory, co stanie się, gdy kierowcy nie będzie w ogóle?
Okazuje się, że odpowiedź jest zarazem uspokajająca i niepokojąca. Autonomiczne pojazdy nie ufają ślepo jednej mapie – mają kamery, radary, lidar, a ich systemy budują trójwymiarowy obraz otoczenia w czasie rzeczywistym. W teorii żaden z tych systemów nie wyśle auta w górę po szynach kolejki tylko dlatego, że mapa tak sugeruje. Sensory powinny wykryć torowisko, słupki, nachylenie.
Tylko sam fakt wykrycia nie rozwiązuje tematu technologicznej pychy.
Waymo musiało wycofać z użytku prawie 3800 autonomicznych pojazdów po wykryciu błędu oprogramowania, który pozwalał robotaksówkom wjeżdżać na zalane drogi. System zwalniał przed przeszkodą, a następnie kontynuował jazdę prosto w rozlewisko. Czujniki co prawda widziały wodę, ale widocznie uruchamiały ukryty tryb „Co, ja nie przejadę?” i po prostu auto podejmowało błędne decyzje. Autonomiczny pojazd nie ufał GPS-owi bardziej niż swojemu oglądowi sytuacji – ale i tak wjeżdżał tam, gdzie jechać nie powinien. Tylko z bardziej zaawansowaną wymówką.
Sytuacja powtórzyła się w Atlancie, gdzie robotaksi ugrzęzło na zalanej ulicy na około godzinę, zanim udało się je odholować. Pasażer – tym razem dziennikarz – musiał wezwać pomoc z prawdziwym kierowcą.
Wróćmy na chwilę do scenariusza z torami. Czy autonomiczne auto mogłoby zrobić to samo co mazda w Seattle z powodu błędu w mapach? Z ujawnionych przez NHTSA raportów wynika, że w trakcie testów robotaksówki Tesli wielokrotnie wjeżdżały w łańcuchy, barierki czy inne obiekty stałe – i to nie wskutek usterek sensorów, lecz błędnych decyzji oprogramowania. Gdyby mapa wskazywała na przejazd, którego w rzeczywistości już nie ma – albo nigdy nie było – system mógłby posłusznie skierować auto w to miejsce. Dokładnie tak jak człowiek z GPS-em.
Różnica polega na tym, że człowiek ma sumienie i ręce na kierownicy. Robot ma patch do pobrania i zainstalowania, co zajmuje więcej niż uzmysłowienie sobie, że „nie no, tędy to chyba nie”.
Dokąd zaprowadzi nas ta droga?
Nawigacja satelitarna to jeden z największych wynalazków ostatnich dekad. Zmieniła podróżowanie, logistykę, ratownictwo. I jednocześnie stworzyła nową kategorię zdarzenia drogowego: zdarzenie z powodu ślepego posłuszeństwa. Nie brawury czy zmęczenia, nie alkoholu – po prostu bezkrytycznego wykonywania polecenia wydanego przez urządzenie, które nie widzi torów, nie rozumie grawitacji i nie ponosi żadnej odpowiedzialności.
Technologia nie jest winna. Winna jest pętla zaufania, którą sami zacisnęliśmy wokół własnej zdolności do oceny sytuacji.
