Beiträge aus der Wissenschaft

Teilautonomes Fahren: Geteilte Kontrolle, geteilte Verantwortung?

31.10.2019 15:28

Teilautonomes Fahren: Geteilte Kontrolle, geteilte Verantwortung?

Wenn bei der Fahrt mit einem teilautonomen Fahrzeug sowohl der Mensch, als auch die intelligente Technik Fehler machen, wer ist dann schuld an einem Unfall? Ein Forschungsteam vom Max-Planck-Institut für Bildungsforschung, dem Massachusetts Institute of Technology (MIT) und der University of Exeter hat diese Frage fast 5.000 Menschen gestellt. Die Befragten gaben die Schuld eher dem Menschen, als der intelligenten Maschine. Die Ergebnisse der Studie sind im Journal Nature Human Behaviour erschienen.

Autonome Autos, in denen Menschen nur noch Passagiere sind, sollen effizienter, sicherer und bequemer sein. Weltweit arbeiten Unternehmen und Wissenschaftler*innen an der intelligenten Mobilität der Zukunft. Doch bevor der Mensch die Kontrolle über die Fahrzeuge komplett an intelligente Maschinen abgibt, werden sich Mischformen herausbilden, in denen der Mensch und das intelligente Fahrzeug gemeinsam fahren und gemeinsam Entscheidungen treffen. In einigen Modellen ist der Mensch erster Fahrer und steuert das Fahrzeug, während die intelligente Maschine als zweiter Fahrer lediglich den Verkehr beobachtet und in Gefahrensituationen eingreift. In anderen Modellen fährt das Fahrzeug bereits autonom, aber der Mensch muss den Verkehr ständig überwachen und gegebenenfalls die Kontrolle übernehmen.

Unternehmen testen solche teilautonomen Fahrzeuge bereits im echten Verkehr, wobei es bereits zu ersten tödlichen Unfällen kam. „In unserer Studie gehen wir der Frage nach, wer bei einem Unfall die Schuld trägt: der Mensch oder die Maschine. Dies hat Auswirkungen auf die politischen Maßnahmen, die zur Regulierung dieser Fahrzeuge erforderlich sind“, sagt Sydney Levine, Wissenschaftlerin am Media Lab des Massachusetts Institute of Technology (MIT) und gemeinsam mit Edmond Awad von der University of Exeter Erstautorin der Studie. Um herauszufinden, wie die Haltung der Gesellschaft zu der Schuldfrage bei Unfällen von teilautonomen Fahrzeugen ist, hat ein internationales Forscherteam vom Max-Planck-Institut für Bildungsforschung, dem MIT, und der University of Exeter verschiedene Szenarien entwickelt, in denen teilautonome Fahrzeuge in tödliche Unfälle involviert waren. Diese Szenarien wurden insgesamt 5.000 Proband*innen präsentiert.

In einigen Szenarien übernimmt der zweite Fahrer fälschlicherweise die Kontrolle über das Fahrzeug und verursacht einen tödlichen Unfall. Die Befragten gaben in diesen Fällen eindeutig dem zweiten Fahrer die Schuld – egal ob er ein Mensch oder eine Maschine war. Aber was passiert, wenn beide Fahrer einen Fehler machen? Das Fahrzeug steuert direkt auf einen Fußgänger zu, aber weder der erste Fahrer, der das Fahrzeug steuert, noch der zweite Fahrer, der Gefahrensituationen erkennen und verhindern soll, bremsen rechtzeitig, sodass der Fußgänger tödlich verunglückt. In den verschiedenen Szenarien wechselten die Rollen: Mal war der erste Fahrer ein Mensch, mal der zweite, mal waren beide Fahrer Menschen oder beide Maschinen. Die Ergebnisse der Studie zeigen: In Szenarien, in denen Mensch und Maschine sich die Kontrolle über das Fahrzeug teilten und beide einen Fehler machten, gaben die Befragten eher dem Menschen die Schuld an dem Unfall – unabhängig davon, ob er der erste oder zweite Fahrer war.

Warum Menschen eher anderen Menschen die Schuld geben und nicht den autonomen Fahrzeugen, ist eine offene Frage. Generell neigen Menschen dazu, Ursachen für Ereignisse eher anderen Menschen zuzuschreiben, als dem Zufall oder der Umwelt. Ein von künstlicher Intelligenz gesteuertes Fahrzeug ist in unserer Vorstellung – bisher – kein eigenständiger Akteur, der Handeln und frei entscheiden kann. Deshalb tendieren Menschen dazu, Maschinen von der Schuld freizusprechen.

„Wir müssen die Verantwortungsfrage klären, andernfalls wird die bestehende Unsicherheit die Weiterentwicklung und Akzeptanz von selbstfahrenden Fahrzeugen erschweren. Unsere Studienergebnisse lassen vermuten, dass die Öffentlichkeit und vielleicht auch Gerichte dazu tendieren würden, die Technik und somit die Hersteller von der Verantwortung freizusprechen. Die Politik sollte daher frühzeitig Sicherheitsstandards für teilautonome Fahrzeuge vorgeben, um dies zu korrigieren“, sagt Iyad Rahwan, Direktor des Forschungsbereichs Mensch und Maschine am Max-Planck-Institut für Bildungsforschung.

—

Das Max-Planck-Institut für Bildungsforschung wurde 1963 in Berlin gegründet und ist als interdisziplinäre Forschungseinrichtung dem Studium der menschlichen Entwicklung und Bildung gewidmet. Das Institut gehört zur Max-Planck-Gesellschaft zur Förderung der Wissenschaften e. V., einer der führenden Organisationen für Grundlagenforschung in Europa.

Originalpublikation:

Awad, E., Levine, S., Kleiman-Weiner, M., Dsouza, S., Tenenbaum, J. B., Shariff, A., … Rahwan, I. (2019). Drivers are blamed more than their automated cars when both make mistakes. Nature Human Behaviour. https://doi.org/10.1038/s41562-019-0762-8