Ethik-Kommission zum automatisierten Fahren legt Richtlinien vor

Die „Ethik-Kommission zum automatisierten Fahren“ hat in ihrem Bericht 20 Regeln für automatisierten und vernetzen Fahrzeugverkehr vorgelegt. Sie fordert unter anderem, automatisierte Autos nur zuzulassen, „wenn sie im Vergleich zu menschlichen Fahrleistungen zumindest eine Verminderung von Schäden im Sinne einer positiven Risikobilanz“ versprechen. Zudem stellt sie fest, eine eindeutige Lösung für eine Dilemma-Situation (ein unvermeidbarer Unfall, bei dem die Steuerung wählen muss, entweder den Insassen, einen alten oder einen jungen Menschen zu töten) sei nicht programmierbar und fordert, ein Fahrzeug dürfe im Falle eines Unfalls keine „Qualifizierung“ möglicher Unfallopfer „nach persönlichen Merkmalen“ vornehmen. Schließlich sehen die Experten die Verantwortung im Falle eines Unfalles bei den Herstellern und Betreibern automatisierter Fahrzeuge sowie den politischen Instanzen, Behörden und Unternehmen, die für den Ausbau und Unterhalt der Infrastruktur zuständig sind, nicht jedoch beim Halter des Fahrzeugs. Der Bericht wurde am 20. Juni 2017 in Berlin vorgestellt.

• Prof. Dr. Karsten Lemmer, Vorstand Energie und Verkehr, Deutsches Zentrum für Luft- und Raumfahrt e. V. (DLR), Braunschweig
• Prof. Dr. Dr. h.c. Raúl Rojas, Leiter des Dahlem Center for Intelligent Systems, Freie Universität Berlin
• Prof. Dr. Hermann Winner, Leiter des Fachgebiets Fahrzeugtechnik, Technische Universität Darmstadt

Statements

Prof. Dr. Karsten Lemmer

Vorstand Energie und Verkehr, Deutsches Zentrum für Luft- und Raumfahrt e. V. (DLR), Braunschweig

„Die Veränderungen, die durch das automatisierte und vernetzte Fahren auf uns zukommen, sind immens. Fahrzeuge, die selbstständig und ohne menschliches Eingreifen die Fahrbahnspur wechseln, bremsen und lenken können, sind prototypisch vorhanden und keine utopische Zukunftsvision mehr. Sie nötigen Politik und Gesellschaft dazu, Stellung zu nehmen. Positiv ist, dass das automatisierte Fahren wachsende Mobilitätschancen und mehr Sicherheit mit sich bringen wird, viele Unfälle durch menschliches Versagen können vermieden werden. Aber es gibt keine 100-prozentig sichere Technik, somit bleiben Restrisiken. Ein Ethikbericht, der diese frühzeitig einordnet, kommt daher zur rechten Zeit. Das Bundesministerium für Verkehr und digitale Infrastruktur hat dafür Rechts-, Verkehrs- und IT-Experten beauftragt, Leitlinien für die Themen Sicherheit, Datenschutz, Komfort und den Einsatz von auf künstlicher Intelligenz basierten Systeme zu formulieren. Wo bleibt der Datenschutz? Wer ist im Falle eines Unfalls verantwortlich? Und nicht zuletzt: welche Schlussfolgerungen muss man bei einem unvermeidbaren Unfall in sogenannten ‚Dilemma-Situationen’ für technische Realisierungen ziehen, bei dem es keine ‚richtige’ Lösung gibt?“ 

„Der Bericht kann keine abschließenden Antworten geben, zumal die Forschung und Entwicklung solcher Systeme noch am Anfang steht. Aber er liefert einen sehr guten Rahmen für notwendige rechtliche und auch gesellschaftliche Diskussionen. Die 20 Leitlinien, die er setzt, sind wichtig, damit wir den auf uns zukommenden Wandel besser gestalten können.“

Prof. Dr. Dr. h.c. Raúl Rojas

Leiter des Dahlem Center for Intelligent Systems, Freie Universität Berlin

„Der Bericht der Ethikkommission kommt zu einem guten Zeitpunkt, da gerade jetzt die Einführung von Autonomie für die Autobahn ab 2020 vorbereitet wird. Der Bericht nimmt entschieden Stellung für die Produkthaftung. Es kann nicht anders sein: wenn der Fahrzeugbesitzer nur noch Passagier ist wie in einem Flugzeug, sollte er oder sie nicht für Unfälle haften. Die Produkthersteller müssen die Sicherheit der Fahrzeuge absichern und auch dafür haften. Das muss aber noch rechtlich abgesichert werden.“

 „Der Bericht macht auch klar, dass angestrebt werden sollte, Verkehrsunfälle auf ein Minimum zu reduzieren, so dass sogenannte Dilemma-Situationen erst recht nicht entstehen, da ein Computer nicht abwägen sollte, ob Person A oder B Opfer eines Unfalls sein soll.“ 

Herr Prof. Dr. Hermann Winner

Leiter des Fachgebiets Fahrzeugtechnik, Technische Universität Darmstadt

„Mit dem Bericht der Ethikkommission liegt nur eine dokumentierte Einordnung wichtiger ethischer Fragestellungen vor, wobei auch Regeln aufgestellt werden über Fragen, die meines Erachtens in anderen Kreisen mit anderen Expertisen besser aufgehoben wären, wie beispielsweise die Regeln 15 bis 20. Die Arbeit der Kommission und der Bericht erfüllen das Bedürfnis vieler Stimmen, man dürfe Technikern allein nicht die Entscheidung über Leben und Tod überlassen.“ 

„Wie von technischen Experten erwartet, lassen sich daraus aber kaum konkrete Programmierrichtlinien entnehmen (beispielsweise Regel 8). Wie auch die Ethikkommission erkannt hat, lassen sich ex-ante keine in allen Fällen korrekte Handlungen vorschreiben. Erst in der Nachbetrachtung kann man bewerten, ob die Algorithmen zu einer Benachteiligung von Opfergruppen geführt haben. Immerhin wird ‚eine Programmierung zur Minderung der Zahl von Personenschäden’ als zulässig angesehen. Viele andere Regeln sind auch schon von anderen Kreisen als eher abstrakte Soll- oder Wunschzustände beschrieben worden. Für die praktische Erreichung dieser Zielzustände bleibt noch viel Arbeit.“

 „Wie auch in der Stellungnahme des Wissenschaftlichen Beirats des BMVI zum Automatisierten Fahren im Straßenverkehr, der demnächst in der Zeitschrift ‚Straßenverkehrstechnik’ in zwei Teilen veröffentlicht wird, wird in dem Bericht der Ethikkommission die Einrichtung einer ‚Bundesstelle für Unfalluntersuchung automatisierter Verkehrssysteme oder eines Bundesamtes für Sicherheit im automatisierten und vernetzten Verkehr’ angeregt. Eine solche Einrichtung sehe ich ebenfalls als notwendig an.“

Mögliche Interessenkonflikte

Alle: Keine angegeben.

Primärquelle

Ethik-Kommission: Automatisiertes und Vernetztes Fahren. Bericht Juni 2017