Afgelopen weekend vielen door een ernstige stroomstoring in San Francisco een aantal verkeerslichten uit, waardoor een aantal zelfrijdende robotaxis van Waymo in een soort fuga-toestand terechtkwamen. In plaats van te rijden, reageren sommige Waymo’s op deze nu analoge kruispunten door alarmlichten aan te zetten, het verkeer te blokkeren en, nou ja, niet veel anders te doen. Er zijn verschillende voorbeelden van Waymo-auto’s die de wegen verstoppen, waardoor futuristische technologie in eerbiedwaardige herkenningspunten verandert. Het stadsbestuur eiste snel het bedrijf op uitschakelen dienst.
Het urgente probleem is opgelost: de stroom is weer ingeschakeld en de Waymo-service is zondag in San Francisco hervat. Maar de vraag die overblijft is of Waymo, of de stad, een plan had om het hoofd te bieden aan een relatief voorspelbare stedelijke noodsituatie – een stroomstoring die communicatienetwerken blokkeerde – of hoe ze zich nu aanpassen.
Een van de geweldige oplossingen voor AI falen is iets waar veel over gesproken wordt mensen in die kring. Het idee: op bepaalde punten in een geautomatiseerd proces – of het nu gaat om een screeningsysteem voor sollicitaties of een geavanceerd algoritme voor zelfrijdende auto’s – hebben mensen de mogelijkheid om in te grijpen en moeilijke dingen op te lossen die kunstmatige intelligentie niet aankan. AI begrijpt niet elke complexe situatie, dat is de logica. Er zijn dus beveiligingen in het systeem ingebouwd om ervoor te zorgen dat een levend persoon op een gegeven moment het geautomatiseerde systeem weer op de rails kan krijgen.
Het probleem is, zoals uit recente gebeurtenissen blijkt, dat de mensen in deze kring soms niet altijd de telefoon opnemen. Of dat kan niet.
Dit weekend moet het team voor assistentie op afstand auto’s helpen navigeren wanneer ze worden geconfronteerd met verwarrende verkeerssituaties, legt een woordvoerder van Waymo uit. Maar het netwerk was overweldigd door een stroomstoring, waardoor het voor de Waymo Driver-software in sommige auto’s moeilijk was om verbinding te maken met het team en bevestigingen te ontvangen.
Dat zei Waymo-woordvoerder Ethan Teicher Snel bedrijf dat het bedrijf prioriteit geeft aan veiligheid en regelmatig zijn protocollen voor paraatheid bij noodsituaties test en verfijnt. Hij verdedigde ook de reactie van het bedrijf op andere noodsituaties, waaronder de orkaan Helene in Atlanta en een eerdere tsunami-waarschuwing in San Francisco.
“We streven naar voortdurende verbetering en we zullen de lessen van dit weekend gebruiken om onze veerkracht te versterken, zelfs in de meest uitdagende omstandigheden”, aldus Teicher. “Voordat we een stad binnengaan, proberen we inzicht te krijgen in de soorten problemen die van invloed zijn op dat gebied.”
