Zum Hauptinhalt springen
21.03.2018

Erster Fußgänger von Roboterauto überfahren: Video wirft Fragen zur Technik auf

Anlass

Am Sonntag, 18. März 2018, fuhr ein überwacht automatisch fahrendes Auto eine Fußgängerin in Tempe, Arizona an. Die Fußgängerin starb später im Krankenhaus. Die Polizeichefin von Tempe, Sylvia Moir, äußerte kurz darauf in einem Interview, der Unfall sei vermutlich für Mensch und Technik unvermeidbar gewesen. Die Darstellung der Polizei auf der Pressekonferenz und die Rekonstruktion in der New York Times deuteten ließen jedoch Zweifel an dieser Einschätzung aufkommen; die Veröffentlichung des Videos vom Unfall verstärkte diese Zweifel noch. Sie legen nahe, dass die Sensoren des Fahrzeugs genug Zeit und Raum gehabt haben können, um die Fußgängerin zu erkennen und eine Bremsung einzuleiten. Sie lassen ferner Zweifel an der Rolle von Sicherheitsfahrern aufkommen: Es ist unklar, wie Uber sie eingesetzt hat und ob sie dadurch psychologisch überhaupt in der Lage waren, in so einer Situation zu reagieren.

Übersicht

  • Prof.Dr. Christoph Stiller, Leiter des Instituts für Mess- und Regelungstechnik, Karlsruher Institut für Technologie (KIT)
  • Prof. Dr. Raúl Rojas, Leiter des Dahlem Center for Intelligent Systems, Freie Universität Berlin
  • Prof. Dr. Hermann Winner, Leiter des Fachgebiets Fahrzeugtechnik, Technische Universität Darmstadt
  • Prof. Dr. Markus Maurer, Institut für Regelungstechnik, Technische Universität Carolo-Wilhelmina zu Braunschweig
  • Prof. Dr. Philipp Slusallek, Wissenschaftlicher Direktor Agenten und Simulierte Realität, Deutsches Forschungszentrum für Künstliche Intelligenz GmbH (DFKI), Saarbrücken

Statements

Prof.Dr. Christoph Stiller

Leiter des Instituts für Mess- und Regelungstechnik, Karlsruher Institut für Technologie (KIT)

„Die Darstellung des Hergangs lässt in der Tat viele Fragen aufkommen. Bei einer Überquerung von links nach rechts sind Fußgängerunfälle deshalb seltener, weil man typischerweise den Fußgänger (und dieser das Auto) bereits von weitem sieht.“

„Im Falle des Uber-Fahrzeugs betrifft das sämtliche Sensorik (Video, Lidar und Radar) wie gleichermaßen auch den Sicherheitsfahrer, welche die Fußgängerin jeweils frühzeitig hätten sehen sollen. Dabei arbeiten die Lidar- und die Radarsensorik unabhängig vom Tageslicht und hätten die Fußgängerin mit Ihrem geschobenen Rad selbst noch bis in 100 Metern Entfernung detektieren müssen. Aufgrund der Umgebungshelligkeit hätte auch die Videokamera die Fußgängerin sehen sollen. Insbesondere benötigt die Fußgängerin ja einige Zeit um vom linken an den rechten Fahrzeugrand zu gelangen. Zumindest in dieser Zeit hätte das Fahrzeug mit einem beherzten Brems- oder Lenkmanöver den Schaden mindern können. Falls das Fahrzeug also wirklich nichts dergleichen getan hätte, müsste man den Ursachen auf den Grund gehen. Die von der Polizei spontan geäußerte Unvermeidbarkeit des Unfalls auch für menschliche Fahrer steht mit dieser Darstellung erstmal in Frage.“

Prof. Dr. Raúl Rojas

Leiter des Dahlem Center for Intelligent Systems, Freie Universität Berlin

„Das Video zeigt eindeutig, dass die Passantin nicht erkannt wurde, nicht mal als sie bereits vor dem Auto stand. Alles deutet auf Versagen der Uber-Sensorik und -Programmierung hin. Laserscanner können in der Nacht Passanten sehr gut erkennen. Herkommliche Notstop-Systeme hätten bei modernen Autos in dieser Situation wohl eingegriffen. Darüberhinaus hat der Sicherheitsfahrer seine Arbeit nicht getan, hat nicht auf die Straße geachtet. Ich denke, dass die Angehörigen des Opfers die Firma Uber verklagen können und werden."

Prof. Dr. Hermann Winner

Leiter des Fachgebiets Fahrzeugtechnik, Technische Universität Darmstadt

„Ein 'normales' modernes Fahrzeug hätte in dieser Situation – die Fußgängerin kommt von links und wird erst auf der rechten Seite des Fahrzeugs getroffen, wie auf dem Video zu sehen – eine Notbremsung hingelegt. Die hätte vielleicht die Kollision nicht verhindert, aber doch gemindert. Und dafür ist weniger Sensorik erforderlich als im Volvo mitgeführt. Dann vermute ich den Fehler in der Objektklassifikation, die für Fahrrad-schiebende Fußgänger nicht gut genug trainiert wurde. Das heißt, das Objekt wurde sicherlich detektiert, aber nicht mit einer für die Regelung klaren Eigenschaften belegt (beispielsweise kreuzender Fußgänger => Gefahr => Bremsen oder Ausweichen). Somit könnte dieser Unfall doch charakteristisch für die noch vorhandenen Schwächen des hier eingesetzten maschinellen Umfeldinterpretierens sein. Das muss die Untersuchung zeigen. Allerdings ist die Rolle des Sicherheitsfahrers zu hinterfragen, der dann ja auch wohl nicht rechtzeitig die Situation richtig eingeschätzt hat.“

Prof. Dr. Markus Maurer

Institut für Regelungstechnik, Technische Universität Carolo-Wilhelmina zu Braunschweig

„Formal handelt es sich meines Erachtens nicht um ein autonomes Fahrzeug: Da ein Sicherheitsfahrer an Bord war, ist es formal ein teilautomatisiertes Fahrzeug nach SAE Level 2. Entsprechend liegt die Verantwortung zunächst beim Sicherheitsfahrer, der hier hätte eingreifen müssen. Dabei gilt: Je besser ein automatisches System funktioniert, desto besser müssen die Bediener und Bedienerinnen für Übernahmesituationen ausgebildet und trainiert sein. Weil der Mensch die zur Benutzung des Systems erforderlichen Fertigkeiten dank Automation nicht mehr oft anwendet, verlernt er sie und hat sie sowie das notwendige Wissen in Notsituationen ohne Training nicht parat.“

„Die Frage muss also lauten, warum der Sicherheitsfahrer nicht eingegriffen hat. Hier gibt es mehrere Möglichkeiten:

  • Der Sicherheitsfahrer war entgegen den Anweisungen nicht hinreichend aufmerksam.
  • Die Fußgängerin ist so plötzlich vor das Auto gelaufen, dass der Sicherheitsfahrer nicht mehr reagieren konnte.

    Dann ist die Frage:
  • Hätte ein menschlicher Autofahrer, der seine Aufmerksamkeit die ganze Zeit auf den Verkehr richtet, nicht mehr reagieren können?
  • Ist die Mensch-Maschine Schnittstelle für den Überwacher richtig gewählt? Sitzt er zum Beispiel so, dass er schnell reagieren kann? Oder wird er abgelenkt, zum Beispiel durch Monitore?
  • Ist die Aufgabenverteilung zwischen Mensch und Maschine ungünstig gewählt? Wenn ein Fahrer tagelang ohne eingreifen zu müssen fährt, wird er im Notfall kaum schnell reagieren können. Das ist in der Psychologie schon lange ein bekanntes Phänomen.“

„Grundsätzlich passt nach meiner persönlichen Einschätzung die derzeit erreichbare technische Leistungsfähigkeit von automatisierten Fahrfunktionen nicht zur öffentlichen Erwartungshaltung. Eine breite, ausgewogene öffentliche Debatte der Chancen und der Risiken von automatisierten Fahrfunktionen sollte der Markteinführung vorausgehen.“

Prof. Dr. Philipp Slusallek

Wissenschaftlicher Direktor Agenten und Simulierte Realität, Deutsches Forschungszentrum für Künstliche Intelligenz GmbH (DFKI), Saarbrücken

„Der Unfall, so wie er sich jetzt mit dem Video darstellt, ist für mich ein klarer Fall von technischem sowie menschlichem Versagen.“

„Technisches Versagen, weil das Auto auf scheinbar völlig freier, zweispurigen Straße unterwegs war (die Straße erweitert sich am Unfallort auf mehrspurig, aber das sollte eher hilfreich sein, da es somit links noch weniger störenden Hintergrund gibt.“

„Jedes Objekt auf der Straße muss in einer solchen Situation klar als Hindernis erkennbar sein, insbesondere wenn es sich in Richtung der geplanten Route bewegt. Es ist um so klarer, als die von links kommende Frau schon frühzeitig auf der linken Spur und aus größerer Entfernungsowohl mit dem Radar als auch mit dem Lidar hätte erkannt werden müssen. Das metallische Fahrrad sollte die Erkennung mit Radar sogar deutlich erhöhen anders als für einen Menschen alleine. Auch für Lidar ergibt sich mit dem Fahrrad eine größere sichtbare Fläche für den Laser.“

„Aufgrund der Dunkelheit sind optische Kameras eher weniger wirksam, allerdings erscheint mir die Ausleuchtung der Straße auch sehr gering. Hier könnte man wahrscheinlich mit besseren Scheinwerfern und gegebenenfalls besseren Kameras, vielleicht noch mehr erreichen. Man sollte dabei auch nicht vergessen, dass der visuelle Eindruck solcher Videos, die für das Fernsehen aufbereitet wurden, sich nicht unerheblich von den maschinell auswertbaren Bilddaten unterscheiden, die das System direkt selbst 'sieht'. Das gilt insbesondere für dunkle Bereiche.“

„Erstaunlich ist auch, dass das Uber-Auto in beiden Sequenzen bis zuletzt keinerlei Reaktion zeigt. Beim Bremsen (insbesondere bei einer hier notwendigen Vollbremsung!) würde sich das Auto vorne senken und sich damit die Perspektive der Kameras ändern. Davon ist nichts zu sehen. Selbst nicht in dem zweiten Video, das den 'Sicherheits'-Fahrer zeigt. Hier hat der Mensch die Situation schon wahrgenommen und sogar reagiert (was etliche Millisekunden benötigt). Da der Mensch die Frau nur optisch sehen konnte (kein Lidar/Radar), konnte er die Frau prinzipiell erst deutlich später überhaupt wahrnehmen. Trotzdem konnte er reagieren, während das Fahrzeug das nicht tat. Das technische System sollte hier deutlich schneller reagieren als der Mensch.“

„Insgesamt ist es mir nicht erklärlich, wie ein mit vielen Sensoren ausgestattetes Fahrzeug in einer solchen Situation ein so klares Hindernis nicht rechtzeitig erkennen konnte. Aus meiner Sicht ist das ein klarer Fall von technischen Versagen.“

„Ich halte es für nicht unwahrscheinlich, dass der extreme Wettbewerb zum Autonomen Fahren in den USA letztlich zu dem Unfall beigetragen hat. Es langt einfach nicht, die Systeme einfach mal auszuprobieren, sondern hier muss das Verhalten der autonomen Fahrzeuge in solchen kritischen Situationen systematisch getestet und validiert werden, bevor diese für den Straßenverkehr zugelassen werden.“

„Menschliches Versagen hat in diesem Fall ebenfalls zum Unfall beigetragen. Der 'Sicherheits'-Fahrer hat offensichtlich bis kurz vor dem Unfall nicht auf die Straße geschaut. Erst kurz vorher blickt er auf und erkennt gleich die kritische Situation. Interessanterweise scheint er dabei nach links zu schauen! Das heißt er hat die Frau dort schon erkannt (was wiederum darauf hin deutet, dass die Frau dort schon sichtbar war, obwohl sie in dem Polizei-Video erst in der Mitte der Spur wirklich sichtbar wird.“

„Es müsste auch geklärt werden, warum der Fahrer gerade in diesem Moment aufschaut: Es könnte sein, dass das Fahrzeug doch etwas erkannt hat und zum Beispiel ein akustisches Signal gegeben hat, das aber scheinbar öfters vorkommt, da der Fahrer anfangs sehr gelassen reagiert, als ob er nur mal nachsehen will, was denn los ist.“

„Die Situation wirft ein starkes Licht auf ein immer wieder diskutiertes Problem, dass es nämlich fast unmöglich ist, einen Menschen ein System überwachen zu lassen, dass nur ganz selten Fehler macht. Der Mensch gewöhnt sich daran, dass eh nichts passiert und lässt in seiner Aufmerksamkeit stark nach. Das ist aus anderen Berufen (zuim Beispiel Lokführer) sehr gut bekannt und erklärt.“

„Dass ein professioneller, trainierter Sicherheitsfahrer nicht in der Lage ist, aufmerksam zu blieben, wirft große Fragen für die Überwachung autonomer Fahrzeuge durch 'normale' Menschen auf. Es wurde schon mehrfach diskutiert, dass die Level 3 bis 4 beim autonomen Fahren, bei denen eine Überwachung notwendig ist, wegen dieser Problematik komplett übersprungen werden müssten. Das erschien mir schon immer als gut begründet. Der vorliegende Fall macht das nochmal sehr drastisch deutlich.“

Angaben zu möglichen Interessenkonflikten

Alle: Keine angegeben.

Weitere Recherchequellen

Hintergründe zum Thema Sicherheit und Automatisches Fahren liefert unser Fact Sheet "Mehr Sicherheit durch automatisiertes Fahren?"