Künstliche Intelligenz

Editorial: Fußgängerin oder Radfahrerin oder Zwitter?

Die Fahrrad schiebende Frau wurde als Hindernis zu spät erkannt - mit tödlichen Folgen. Was können künftige Updates des autonomen Systems besser machen?
AAA
Teilen (4)

Zu Ubers schrecklichem Unfall, bei dem ein autonomes Testfahrzeug eine Fußgängerin anfuhr, die kurze Zeit später ihren Verletzungen erlag, hatte ich bereits ein Editorial geschrieben. Meine Schlussfolgerung damals war: Die Systeme müssen die Fußgängerin rechtzeitig "gesehen" haben, dann aber aus einem (damals) noch unerfindlichen Grund nicht reagiert haben. Insbesondere erklärte ich: "Normalerweise hätte das Lidar die Fußgängerin und deren Bewegung von links nach rechts schon aus sicherer Entfernung von mindestens 70 bis 100 Metern erkennen müssen."

Inzwischen liegt ein vorläufiger Unfallbericht der nationalen Transport-Sicherheits-Behörde der USA (National Transportation Safety Board, kurz NTSB) vor. Die NTSB ist vor allem berühmt für ihre akribischen Ermittlungen bei Flugunfällen, die dazu geführt haben, dass sich die Sicherheit im kommerziellen Linienflugverkehr in den letzten Jahrzehnten dramatisch verbessert hat. So gab es 2017 überhaupt keine tödlichen Unglücke mit großen kommerziellen Passagiermaschinen. Leider gab es noch mehrere Tote durch Abstürze großer kommerzieller Frachtmaschinen, wovon sowohl die Crews als auch Menschen am Boden betroffen waren, sowie Tote durch Abstürze kleiner Passagierflugzeuge und Privatjets. Für diese wird sich die Sicherheit hoffentlich ebenfalls noch weiter erhöhen. Und es gab mehrere Abstürze großer Militärmaschinen, die in der Unfallstatistik der Zivilluftfahrt freilich nicht mitgezählt werden.

Meine Hoffnung ist - und deswegen schreibe ich diese Zeilen - dass selbstfahrende Autos im Straßenverkehr künftig zu einem vergleichbaren Sprung in der Sicherheit führen werden. Vorausgesetzt, man programmiert die selbstfahrenden Autos richtig und nicht so, wie Uber!

Bestätigung

Uber-UnfallberichtDer Uber-Unfallbericht wurde veröffentlicht. Zunächst einmal bestätigt der Bericht des NTSB meine Aussage, dass das Lidar die Frau frühzeitig erkannt haben muss. Sie wurde den Angaben zufolge rund 6 Sekunden vor dem Aufprall erstmals detektiert. Bei der angegebenen Durchschnittsgeschwindigkeit von 41 Mph (43 Mph zum Zeitpunkt der ersten Erkennung, 39 Mph beim Aufprall) ergibt das einen Abstand von 109 Metern bei der ersten Erkennung.

Die Frau, die ein Fahrrad schob, wurde zunächst als "unbekanntes Objekt" eingestuft, später dann als Fahrzeug und erst zum Schluss als Fahrrad. Es kommt der Eindruck auf, dass das System aufgrund des ungewöhnlichen Bildes - ein Fahrrad wird geschoben, nicht gefahren - mit der Erkennung überfordert war. Hier muss man bedenken, dass das, was oft hochtrabend als "künstliche Intelligenz" bezeichnet wird, nichts weiter ist als blinde Trainierung eines Apparats. Hat man letzteren nicht mit Bildern einer Fahrrad schiebenden Fußgängerin gefüttert, dann erkennt er diese Situation auch nicht richtig.

Auch die Bewegungsrichtung der Fußgängerin wurde anfangs nicht klar erkannt. Erst 1,3 Sekunden vor dem Aufprall - in einer Entfernung von 24 Metern - erkannte die Software, dass eine Notbremsung erforderlich ist. Wäre diese Notbremsung auch ausgelöst worden, hätte der Unfall sicher vermieden werden können. Für das zum autonomen Fahrzeug umgerüstete Auto, einen Volvo XC90, hat der ADAC zwar jüngst einen Bremsweg von 33,6 Metern ermittelt. Der gilt aber für eine Notbremsung beginnend bei einem Tempo von 100 km/h. Bei 39 Mph = 63 km/h ist der Bremsweg aber nicht mal halb so lang, da die Geschwindigkeit quadratisch in die Formel für den Bremsweg eingeht.

Die Einlassung von Uber: Während der derzeitigen autonomen Testfahrten ist die Notbremsfunktion ausgeschaltet, um erratisches Fahrzeugverhalten zu verhindern. Stattdessen wird erwartet, dass die Sicherheitsfahrerin, die im Fahrersitz sitzt, die Situation ebenfalls erkennt und korrekt reagiert. Die Fahrerin war aber damit abgelenkt, auf die Mittelkonsole zu schauen, wo das automatische Uber-System bestimmte Kontrollmeldungen anzeigt. So erkannte sie die Fahrradfahrerin zu spät.

Ausweichen wäre mit mittlerer Beschleunigung möglich gewesen

Dass die Notbremsfunktion während einer frühen Testphase während der Fahrt auf einer dicht befahrenen Straße ausgeschaltet ist, ist sogar verständlich. Andernfalls könnten wegen Nichtigkeiten ausgelöste plötzliche harte Bremsmanöver immer einen Auffahrunfall provozieren. Nun war in der Unfallsituation das Uber aber anscheinend allein auf der Straße unterwegs, da auf den Kamerabildern kein Lichtstrahl eines anderen Fahrzeugs zu sehen ist. In so einer Situation, wie Lidar und Radar erkennen, dass es genau ein gefährliches (bzw. gefährdetes) Hindernis gibt, die Notbremsfunktion ebenfalls zu deaktivieren, ist schon merkwürdig.

Noch fragwürdiger ist, warum das Uber nicht ausgewichen ist. Es muss ja irgendwann zum Schluss erkannt haben, dass das Hindernis sich von links nach rechts bewegt, und da wäre die richtige Reaktion gewesen, nach links auszuweichen. Die Straße war ja frei. Bereits eine Querbeschleunigung von 0,25 g hätte ausgereicht, um in den verbleibenden 1,3 Sekunden um 3,9 Meter nach links auszuweichen. Das hätte mehr als gereicht! Und 0,25 g Lenkbeschleunigung sind noch weit weg von dem Bereich, ab dem es kritisch wird.

Ist sich das System unsicher über die weitere Bewegungsrichtung des Hindernisses, wäre zudem Ausweichen und moderat Bremsen die richtige Reaktion gewesen. In anderen Medien wird eine Grenze von 0,6 g für Betriebsbremsungen genannt. Dabei reichen sogar schon 0,4 g, um den Unfall auf den letzten 24 Metern sicher zu verhindern. Uber hätte diese 0,4 g in 0,2 g für Lenkbewegungen und 0,34 g für die Abbremsung aufteilen können (warum sich das so aufteilt siehe hier). Durch die Bremsung gewinnt das Uber etwas Zeit: Nach 1,5 Sekunden wäre das Fahrzeug immer noch 2 Meter von der Linie entfernt gewesen, an der die Fußgängerin die Straße überquert. Zugleich wären bereits 4,4 Meter seitlicher Versatz erreicht worden.

Vermutlich hätte das Uber bei dem genannnten Ausweichmanöver sogar schon nach ca. 1 Sekunde mit dem Gegenlenken begonnen und die Bremse wieder gelöst, weil es dann erkannt hätte, dass es sicher an der Fußgängerin vorbeifahren kann. Warum ein solches kombiniertes Brems- und Ausweichmanöver, das mit 0,4 g nun wirklich weit vom Limit des Fahrzeugs weg war, nicht ausgelöst wurde, wird hoffentlich das NTSB klären. Denn angesichts dessen, dass ein sicheres Ausweichmanöver mit zwar starken, aber noch unkritischen Beschleunigungen möglich gewesen wäre, erscheint die Einlassung von Uber, eine Notbremsung wegen der übermäßigen Beschleunigungen nicht ausgelöst zu haben, doch sehr fragwürdig.

Genauso unverständlich ist, warum das Fahrzeug angesichts eines "unbekannten Objekts mitten auf der Straße mit unbekannter Bewegungsrichtung" nicht schon viele Sekunden früher mit einer Betriebsbremsung beginnt. "Im Zweifelsfall langsam fahren" dürfte so ungefähr der häufigste Spruch sein, den Fahrlehrer den Fahrschülern mitgeben. Die Uber-Programmierer sollten diesen ebenfalls beherzigen.

Teilen (4)

Weitere Editorials