Autonome Fahrzeuge bei rot farbenblind

Noch gefährlicher werden KI-getriebene Geräte, wenn sie die Größe von Autos oder gar SUVs annehmen. Entsprechend Bedenken verursachen Vorfälle, die im Zusammenhang mit den Fahrversuchen autonomer Autos bekannt werden. So auch mit den Roboterfahrzeugen, die Uber in der Gegend um San Francisco erprobt. Die fahrenden Autonomen sollen nämlich gleich mehrmals – berichtet wird von sechs Vorfällen – auf "rot" stehende Ampeln missachtet haben. Uber schob kurzerhand dem im Fahrzeug noch mitfahrenden Personal aus Fleisch und Blut den Fehler in die Schuhe. Doch interne Dokumente und Auswertungen haben später bewiesen, dass zumindest in einem Fall das Rotlicht überfahren wurde, ohne dass eine Begleitperson an Bord war. Noch schlimmer: Der Vorfall ereignete sich an einer Fußgängerampel.

Allerdings muss man nicht in die weite Welt schweifen, um auf einen KI-Fauxpas zu stoßen. Auch im schweizerischen Sion kann künstliche Intelligenz in den Fail-Modus gelangen. So geschehen mit einem dort im Pilotbetrieb herumkurvenden selbstfahrenden "SmartShuttle"-Postauto, das mit der offenen Heckklappe eines Lieferwagens kollidierte, der quer zur Fahrbahn geparkt war. Der Unfall sei eine Verkettung von Umständen, hieß es in einem Bericht der Post. Weil das SmartShuttle "Tourbillion" genau zu dem Zeitpunkt in Vorbereitung eines bevorstehenden Abbiegemanövers schon leicht nach links schwenkte, habe das autonome Fahrzeug die eine Ecke der offenen Heckklappe gestreift. Offenbar hatten die Sensoren in dieser – sehr speziellen – Situation das Hindernis nicht richtig erkannt.

Das Malheur mit dem Lieferwagen war bislang der einzige Unfall. Gestreikt hat dagegen die Automatik des Post-Shuttles schon ein paar Mal. So habe der Minibus hin und wieder bei Fahrzeugen, die den Weg blockierten, nicht mehr weitergewusst. Der autonome Postbus ist in der Folge einfach stehen geblieben und musste von einem herbeigerufenen Chauffeur wieder in Gang gesetzt werden.

Wohl mit den meisten veröffentlichten Fails haben die smarten Heimlautsprecher wie Echo von Amazon zu kämpfen. So gelang es etwa einem Kind in Kalifornien, die digitale Gehilfin von Amazon dazu zu beauftragen, ein schönes Puppenhaus online zu bestellen.

Richtig gruselig wird die Geschichte allerdings erst noch. Denn ein lokaler Fernsehsender bekam von der Fehlbestellung Wind und brachte die Story in seiner Morgensendung. Die Folge: Zahlreiche "Alexas" in diversen Haushalten hätten auf den im TV geäußerten Sprachbefehl reagiert und ihrerseits Puppenhäuser en masse bestellt.