Incident v San Francisku upozorňuje na limity autonomních vozidel tváří v tvář situacím ohrožení člověka.
Tři lidé jeli jedné lednové noci v San Francisku domů v autonomním vozidle Waymo, když zažili noční můru, o které zřejmě žádná bezpečnostní příručka společnosti neuvažuje. Před auto se postavil cizí člověk a začal bušit na okna, přičemž na ně křičel něco ve smyslu, že „dávají peníze robotovi“. Vozidlo, naprogramované tak, aby zastavilo, kdykoli zjistí, že se v jeho blízkosti nachází člověk, zůstalo zcela nehybné a cestující byli nejméně šest minut zavření uvnitř.
Volání o pomoc bez užitečné odezvy. Jak uvádí New York Times, cestující nejprve kontaktovali policii a poté asistenční službu společnosti Waymo s žádostí, aby někdo převzal dálkové ovládání vozu a dostal je ven. Odpověď společnosti byla strohá: systém neumožňuje pohyb vozu, pokud je někdo poblíž, ale byli ujištěni, že budou v bezpečí, protože dveře zůstanou zamčené. Jeden z cestujících newyorským novinám řekl, že je přesvědčen, že kdyby se útočník soustředil na úder do jediného okna, místo aby jich několik střídalněkolik, rozbil by je.
Dilema naprogramované bezpečnosti. Skutečnost, že auto bez řidiče automaticky zastaví, když v blízkosti zaznamená člověka, je základním kamenem jeho bezpečného provozu. Nikdo tuto logiku nezpochybňuje, když jde o ochranu chodce přecházejícího silnici. Tato epizoda však poukazuje na znepokojivý rozpor: tentýž mechanismus určený k ochraně životů se může stát klecí, když osoba detekovaná senzory není nevinný chodec, ale někdo s násilnými úmysly. V běžném autě by řidič mohl couvnout a ujet před nebezpečím.
Kontext rostoucího nepřátelství. Robotické taxíky společnosti Waymo jsou již součástí každodenní krajiny ve městech, jako je San Francisco a Los Angeles, ale jejich přítomnost nezapomněla vyvolat odmítavé reakce v určitých kruzích. Od té doby, co jsou vozidla na silnicích, dochází k protestům proti autonomní technologii. Loni v létě, během demonstrací proti imigračnímu úřadu ICE, bylo několik vozů Waymo v Los Angeles zapáleno protestujícími, kteří je obviňovali, že fungují jako sledovací vozidla. Tato podezření nejsou zcela neopodstatněná, protože společnost již dříve poskytla záběry ze svých kamer ve vozech orgánům činným v trestním řízení.
Další znepokojivé epizody. To, co se stalo v lednu, není ojedinělý případ. Byly zdokumentovány i další situace, kdy byla vozidla společnosti Waymo s cestujícími uvnitř poničena. Virálně se rozšířil také případ ženy, která byla uvězněna v robotaxi, zatímco dva muži zvenčí po ní požadovali vydání mobilního telefonu. Kromě těchto incidentů se objevily i další kontroverze, například přejetí známé kočky v San Francisku nebo den, kdy kvůli výpadku elektrického proudu zůstaly desítky těchto vozů nepojízdné a zablokovaly několik městských ulic.
Údaje o bezpečnosti, které nevypovídají o celé situaci. Odborníci na autonomní mobilitu uznávají, že statistiky společnosti Waymo jsou, pokud jde o jízdu, působivé: společnost na svých webových stránkách zdůrazňuje, že její vozidla zaznamenávají o 90 % méně nehod s vážnými zraněními a o 92 % méně případů přejetí než auta řízená lidmi. Tyto údaje se však týkají výhradně prevence dopravních nehod. Epizody, jako byla ta v San Francisku, ukazují, že koncept bezpečnosti v robotaxi zahrnuje mnohem širší dimenze než jen zabránění srážkám a zahrnuje i schopnost chránit cestující před úmyslnými vnějšími hrozbami.