Sign up with your email address to be the first to know about new products, VIP offers, blog features & more.

Über den Nutzen und die Ethik autonomer Fahrzeuge

Seit der Erfindung des Rades ist der Mensch darum bemüht, den Transport von sich und seinen Waren über große Distanzen möglichst effizient, schnell und komfortabel zu bewerkstelligen. Jahrhundertelang waren dabei kaum nennenswerte Entwicklungen zu vermelden, bis mit der Erfindung der Dampfmaschine (Züge), des Automobils sowie der Luftfahrtechnik ein ungeahntes Maß an Transporttätigkeit auf dem ganzen Planeten eingesetzt hat. Neben den Errungenschaften in der Medizin, der einsetzenden Demokratisierung oder den Fortschritten in der Kommunikation gehört die Mobilität zweifelsohne zu den tragenden Säulen einer prosperierenden Gesellschaft.

Den unbestrittenen Vorzügen der Nutzung von Mobilitätstechniken stehen allerdings auch die Gefahren und Probleme gegenüber, die sich Jahr für Jahr weltweit in millionenfachen Unfällen mit einer hohen Zahl an verletzten und auch getöteten Menschen manifestieren. Gerade im Automobilsektor sind es dabei jedoch nicht die Zuverlässigkeit der Technik, sondern die Unzulänglichkeit und Fehlbarkeit des Menschen, die an erster Stelle der Unfallursachen zu nennen sind. Es ist davon auszugehen, dass über 90% aller Unfälle auf das Fehlverhalten von Menschen zurückzuführen sind und der Mensch damit den Hauptrisikofaktor darstellt, wie Studien des amerikanischen Verkehrsministeriums [1] oder der deutschen Dekra nahelegen [2]. Emotionale Befindlichkeiten, Übermüdung, Ablenkung oder der Einfluss von Medikamenten, Drogen und Alkohol führen dabei als Beispiele zu Fahrten mit nicht angepasster Geschwindigkeit oder zum Unterschreiten der geforderten Sicherheitsabstände, was dann zu entsprechenden Unfallereignissen führt, die das Statistische Bundesamt jährlich eindrucksvoll zusammenfasst [3]. Trotz intensiver Bemühungen im Bereich der Fahrausbildung oder der Unfallprävention durch verschiedene öffentliche Aufklärungskampagnen scheint es bis heute leider ein hoffnungsloses Unterfangen zu sein, dem Menschen einen verantwortungsbewussten Umgang mit dem Auto im Straßenverkehr vermitteln zu wollen, wenn er beispielsweise nicht einmal in der Lage ist, vor der Nutzung eines Autos auf den Genuss von berauschenden Mitteln zu verzichten.

Das Forschungsfahrzeug F 015 von Mercedes-Benz. Copyright Daimler

Einen Blick in eine mögliche Zukunft des Automobilbaus wirft Mercedes-Benz mit dem Forschungsfahrzeug F 015. © Daimler

Die voranschreitende Automatisierung des Autofahrens bietet in diesem Zusammenhang eine große Chance. Denn durch den Einsatz moderner Sensor- und Steuerungstechnik wird es zunehmend möglich sein, das Fehlverhalten des Menschen zu kompensieren und so im Laufe der nächsten Jahrzehnte weltweit die Zahl der Unfälle dramatisch zu senken, was sich schon allein aus den oben genannten Zahlen der vom Menschen verursachten Unfälle ergibt. Eine massive Reduzierung verringert dabei in erster Linie das Leid, das aus schweren und schwersten Unfällen den Opfern und Angehörigen erwächst und zum anderen werden die aus Unfällen unnötigerweise anfallenden Kosten minimiert, was nicht zuletzt einen enorm positiven volkswirtschaftlichen Effekt zur Folge haben wird. Thomas Winkle von der Technischen Universität München hat diese Annahme in einer aktuellen Studie untermauert [7]. Darüber hinaus steckt in der Fahrzeugautomatisierung die noch vielleicht größte Freiheits- und Produktivitätsreserve des Menschen überhaupt. Denn weltweit wird eine gigantische Menge an wertvoller Lebenszeit dafür verwendet, von A nach B zu gelangen. In einem Vortrag darüber, wie autonome Fahrzeuge ihre Umwelt wahrnehmen, führt Chris Urmson, Leiter der Abteilung selbstfahrender Autos bei Google, dazu aus, dass allein in den USA täglich 6 Milliarden Minuten an Lebenszeit in den Autos verschwendet werden[4]. Wenn künftig teilautonome und später auch vollautonome Fahrzeuge die Menschen bei der individuellen Transportarbeit entlasten, steigt die Lebensqualität und es wird genau die Art von Freiheit gewonnen werden, die viele heute schon in Zügen und anderen Fortbewegungsmitteln genießen.

Dass selbst das vollautonom funktionierende Fahrzeug längst keine reine Utopie mehr ist, hat Google in den letzten Jahren eindrucksvoll bewiesen mit realen Fahrzeugen, die im realen Straßenverkehr bereits getestet werden und trotz siebenstelliger Kilometerzahlen bis Oktober 2015 nicht einen einzigen Unfall verursacht haben[5,6]. Diese bislang positive Bilanz soll aber nicht darüber hinwegtäuschen, dass noch viele Hürden auf dem Weg zur neuen Autowelt zu nehmen sind und der faszinierende Transformationsprozess erst ganz am Anfang steht. Auf die noch zahlreichen technischen, rechtlichen und versicherungsmathematischen Herausforderungen soll an dieser Stelle nicht näher eingegangen werden. Vielmehr sollen hier die derzeit heftig diskutierten Grundsatzfragen nach der Ethik und der damit eng verbundenen Frage nach der Akzeptanz autonomer Fahrzeuge innerhalb der Bevölkerung angesprochen werden.

Derzeit herrscht hinsichtlich der Akzeptanz noch ein sehr uneinheitliches Bild über den Einsatz autonomer Fahrzeuge und es kursieren viele unterschiedliche Umfragen mit zum Teil sehr diffusen Ergebnissen dazu in den Medien. Anscheinend sind die Menschen einerseits durchaus interessiert an und offen gegenüber technologischem Fortschritt und das auch über viele Ländergrenzen hinweg. Aber auf der anderen Seite besteht trotz allen Wissens um die von Menschen begangenen Fehler im Verkehr noch ein großes Unbehagen, dem Fahrzeug ein höheres oder höchstes Maß an Kontrolle zu übertragen. Diese „Ambivalenz“ konstatieren auch Fraedrich und Lenz in ihrer Untersuchung: „Während das autonome Fahrzeug als solches eine vornehmlich positive Bewertung erfährt, gibt es doch gleichzeitig ein ausgeprägtes Misstrauen und eine deutliche Skepsis bis hin zur Ablehnung gegenüber dem autonomen Fahren und der Einführung von autonomen Fahrzeugen in das Verkehrssystem. Diese Einstellung ist besonders häufig mit der Angst vor negativen sozialen Folgen, aber auch vor dem Verlust von Freiheit assoziiert.“[8] Hierbei ist allerdings zu berücksichtigen, dass die Menschen in den Umfragen angesichts fehlender praktischer Erfahrungen und der Vielzahl an diskutierten Systemen lediglich aus einer Vorstellung heraus Antworten geben können. Erst wenn in den nächsten Jahren neben den bereits existierenden teilautomatisierten auch hoch- und später vollautomatisierte Systeme auf dem Markt und einer breiten Masse zugänglich sein werden, wird es möglich sein herauszufinden, ob die Menschen ein auf empirischen Erfahrungen basierendes Vertrauen in die technischen Möglichkeiten gewinnen werden.

Sensorik des Audi RS7. &copy Audi

automatisiertes Fahren benötigt eine ausgeklügelte Sensorik – hier am Beispiel des Audi RS 7. © Audi

Als vertrauensbildende Maßnahme wird man dabei auch die derzeit viel diskutierten Fragen beantworten müssen, wie sich die Autos der Zukunft in Extremsituationen verhalten. Denn auch mit der besten Technik werden sich Unfälle nicht vollständig ausschließen lassen. Da wird es zum einen trotz aller Vorsichtsmaßnahmen und Redundanzen zu Ausfällen und Fehlfunktionen der Sensor- und Steuerungstechnik kommen, dann bestehen Gefahren durch externe Softwaremanipulationen und schließlich lassen sich manche Unfälle schlicht aufgrund der physikalischen Gegebenheiten nicht mehr verhindern. Im Vergleich zur heutigen Anzahl an Unfällen werden solche Ereignisse gewiss sehr selten sein, aber gleichwohl ist zu klären, wie die Fahrzeuge dann im Rahmen ihrer Programmierung reagieren.

Der Philosoph Patrick Lin von der polytechnischen staatlichen Universität in Kalifornien diskutiert dazu in seinen Arbeiten eine ganze Reihe von Szenarien[9,10]. Unter anderem präsentiert er das Gedankenexperiment, dass das Auto urplötzlich vor die Wahl gestellt wird, entweder eine 80-jährige Großmutter oder ein 8-jähriges Mädchen oder beide zu überfahren. Diese Vorstellung ist sicherlich nicht ganz abwegig, wenn man davon ausgeht, dass in einem innerstädtischen Rahmen beide Personen von unterschiedlichen Seiten unvermittelt und unachtsam auf die Fahrbahn treten und eine Kollision aufgrund der Länge des Bremswegs nicht mehr vermieden werden kann. Das Auto muss sich daher entscheiden, ob es durch ein Ausweichmanöver das Mädchen oder die Großmutter, oder durch den Verzicht auf eine Reaktion beide Personen erfasst. Dabei handelt es sich um ein klassisches moralisches Dilemma, das in verschiedenen Spielarten beleuchtet werden kann. Lin ergänzt zum Beispiel einen Fall, bei dem das Auto entscheiden muss, ob es seinen eigenen Fahrer zugunsten anderer im Verkehr opfert, indem es über eine Klippe fährt und in die Tiefe stürzt, um so einen Unfall mit Kindern zu verhindern. Die Schwierigkeit liegt hierbei laut Lin vor allem darin, dass ein menschlicher Fahrer in solchen Situationen instinktiv, intuitiv und ohne rationale Überlegung reagiert, während ein autonomes Fahrzeug für solche Fälle von seiner Programmierung her gerüstet sein muss. Ein Programmierer hat demnach solche Szenarien lange vor dem tatsächlichen Unfall mit seinen unterschiedlichen denkbaren Konsequenzen durchgespielt und dem Auto die zu treffende Entscheidung vorgegeben. Und genau darin liegt das große Problem. Denn der Programmierer hat im Gegensatz zum menschlichen Fahrer in der akuten Situation viel Zeit, verschiedene Parameter, Kriterien, Ergebnisse von Sensordaten etc. für eine vermeintlich gute oder richtige Entscheidung einfließen zu lassen. Hier muss sich aber erst die Gesellschaft darauf verständigen, wie denn in solchen Fällen eine den Umständen entsprechende richtige Entscheidung aussehen soll. Diese kann unmöglich von den Herstellern und deren Programmierern getroffen werden, sondern ist als gesamtgesellschaftlicher Prozess zu begreifen, für den es nicht nur zur moralischen, sondern auch zur rechtlichen Absicherung einer gesetzlichen Grundlage bedarf. Im Optimalfall wird eine solche Regelung auf Basis einer sehr breit geführten öffentlichen Debatte mit einer am Schluss sehr großen politischen Mehrheit auf den Weg gebracht, um so die Akzeptanz zu erhöhen.

Denn die Entscheidung über Leben und Tod in technischen Grenzbereichen ist sicherlich alles andere als leicht. Im oben geschilderten Fall der zu treffenden Entscheidung, ob das Mädchen, die Großmutter oder beide überfahren werden, gibt es verschiedene Herangehensweisen, die auch Lin in seinen Überlegungen berücksichtigt. Aus einer angelsächsischen Perspektive, die stark dem Konsequentialismus verbunden ist, wird man die Entscheidung vielleicht an den Folgen der Handlung festmachen wollen und würde argumentieren, dass das Mädchen geschützt und die Großmutter geopfert werden solle, weil die eine noch ihr ganzes Leben vor sich hat. Der berühmte Spruch bei sinkenden Schiffen mit Blick auf die Besetzung der Rettungsboote „Frauen und Kinder zuerst“ ist dabei ganz analog Ausdruck der Idee, dass man in einer Notsituation nicht zuletzt auch aus dem Gedanken an einen gesellschaftlichen Nutzen heraus eine Abwägung treffen darf und vielleicht sogar muss, die darauf abzielt, den „Wert“ verschiedener Leben gegeneinander abzustufen. Sollte also das Auto in jedem Fall das Mädchen retten und lässt sich das auf eine Vielzahl von Fällen pauschalisieren? Spinnt man einmal das Gedankenexperiment von Lin weiter und nimmt an, dass das Mädchen gerade auf dem Weg zum Arzt ist und dort erfahren wird, dass es aufgrund einer tödlichen Krankheit nur noch wenige Wochen zu leben hat. Und nimmt man weiterhin an, dass es sich bei der Großmutter um eine berühmte medizinische Forscherin handelt, die auf ihrem Weg eine zündende Idee zur Therapie von Alzheimer hatte, wovon unzählige Menschen profitieren könnten. Würde man dann im Rahmen einer utilitaristischen Kosten-Nutzen-Rechnung immer noch das Mädchen retten wollen? Vermutlich nicht, aber man würde kaum von einem Menschen oder einem Auto verlangen wollen, alle denkbaren Rahmenbedingungen analysieren und vorhersehen zu können.

Einparken mit Fernbedienung. & BMW AG, München

Das Einparken erfolgt vielleicht schon bald außerhalb des Fahrzeugs per Fernbedienung. © BMW AG, München

Unabhängig von den Fähigkeiten der Sensoren und der Algorithmen zur Analyse und zum Umgang mit einer solchen Situation, scheint es kaum denkbar zu sein, angemessene Kriterien finden zu können, mit denen man auch nur annäherungsweise den Wert eines Lebens in solchen Unfallszenarien als schützenswert gegenüber einem anderen einstufen könnte, um daraus eine passende und allgemeingültige Entscheidung ableiten zu können. In Deutschland ist man traditionell eher skeptisch gegenüber solchen Strategien, die sich an den Folgen orientieren und zielt mehr im kantianischen, deontologischen Sinne auf die Handlung selbst bzw. auf die Motivation zu einer Handlung ab. Wie sehr es hierzulande verpönt ist, Menschenleben zahlenmäßig gegeneinander aufzuwiegen, hat der berühmte Fall des Luftsicherheitsgesetzes gezeigt. Unter dem Eindruck der Anschläge des 11. September 2001 hatte die Bundesregierung 2005 ein Gesetz verabschiedet, nach dem es hätte möglich sein sollen, im Extremfall ein Passagierflugzeug abzuschießen, um dadurch andere Leben zu retten. Man wollte also als Beispiel die vielleicht 200 Passagiere eines Flugzeugs opfern, um so vielleicht 10 000 Menschen in einem Fußballstadion zu retten. Genau eine solche Rechnung verbietet sich aber nach unserem Grundgesetz gemäß Artikel 1 und der darin verankerten unantastbaren Würde des Menschen. Somit wurde dieses Gesetz vom Bundesverfassungsgericht 2006 als verfassungswidrig eingestuft[11]. Daher ist es auch sehr unwahrscheinlich, dass in Deutschland ein Gesetz für autonome Fahrzeuge anerkannt würde, nach welchem eine Abwägung von Menschenleben stattfindet. Allerdings gerät man dann in die Situation, dass man sowohl das Mädchen als auch die Großmutter opfern müsste, wenn das Fällen einer Entscheidung anhand welcher Kriterien auch immer unzulässig wäre. Dabei stellte allerdings auch die Entscheidung zum Nicht-Handeln eine eigene Form der Entscheidung für den Programmierer dar, die viele sicherlich auch zurückweisen würden.

Es ist gerade das Wesen des moralischen Dilemmas, dass es am Ende keine Lösung gibt, die das Prädikat richtig oder falsch verdient. Es gibt nur unterschiedliche Herangehensweisen wie die geschilderten deontologischen oder konsequentionalistischen Ansätze, mit denen man dann zu einer Entscheidung gelangt, die akzeptabel erscheint. Gerdes und Thornton von der Universität Stanford wagen in ihrem Aufsatz erste Schritte dazu, die beiden Ansätze zu kombinieren und daraus ein für autonome Autos implementierbares ethisches Regelwerk zu formulieren[12]. Zugegebenermaßen umgehen sie aber schlussendlich auch eine Lösung für die Entscheidung, ob jetzt im oberen Fall das Mädchen, die Großmutter oder beide zu erfassen sind.

Vielleicht wird man schlussendlich doch auf die von Lin[10] angesprochene, aber durchaus von ihm skeptisch betrachtete Lösung zurückgreifen, in manchen Situationen auch dem Zufall eine Chance zu geben, also gewisse Entscheidungen über einen Zufallsalgorithmus zu treffen. Dies könnte dann der Fall sein, wenn alle andere Parameter versagen. Zunächst sollte das Auto im Sinne von Gerdes alles dafür tun, um eine Kollision an sich, hierarchisch gegliedert, mit Gegenständen, anderen Fahrzeugen oder Menschen zu vermeiden. In einem zweiten Schritt könnte man dann bei nicht vermeidbaren Kollisionen eine Priorisierung nach dem aus den Sensordaten erwartbaren Schaden vornehmen. Es ließe sich dabei beispielsweise unterscheiden nach dem Erwartungswert Sachschaden oder Personenschaden, wobei diese sich noch weiter differenzieren ließen nach Art und Schwere des Schadens. Gelangt man dann auf eine Ebene, in der ähnliche Schäden innerhalb einer Kategorie zu erwarten sind, dann wird die Entscheidung dem Zufall überlassen. Im hier immer wieder angeführten Beispiel hieße das: Erwartungswert 1 für Großmutter entspricht dem Erwartungswert 2 für das Mädchen, nämlich jeweils schwere bis tödliche Verletzung. In einer solchen Situation wäre es  dann gerechtfertigt, den „Zufall“ entscheiden zu lassen, da das moralische Dilemma wie erwähnt keine abschließend richtige Lösung erwarten lässt.

Schlussendlich muss auf dem Weg zu immer stärker automatisiert agierenden Fahrzeuge klar gesagt und akzeptiert werden, dass es auch mit solchen Fahrzeugen Unfälle geben wird und sich Risiken nicht auf null reduzieren lassen. Es wäre aber nicht gerechtfertigt, deshalb den Prozess der Automatisierung aufhalten zu wollen, nur weil die Technik im Bereich der auftretenden moralischen Dilemmata nicht zu einer „richtigen“ Lösung fähig ist. Denn man darf nicht vergessen, dass auch der Mensch nicht zu einer solchen Lösung gelangen kann. Es scheint, als ob sich vielmehr die Skeptiker einer automatisierten Fahrweise dieses Argument zu Nutze machen wollen, um so die Entwicklung zu verzögern. Besser aber wäre es, auch zum Wohle der Allgemeinheit die Automatisierung der Fahrzeuge zu befördern und nach Kräften zu unterstützen. In den nächsten Jahren wird man dann auf dem Weg vom teil-, über das hoch-, bis hin zum vollautomatisierten Fahren viele Erfahrungen sammeln können, um die Prozesse zu verfeinern, zu verbessern und die ethischen Regelwerke zu optimieren. Eine solche Optimierung wird auch aus den Erfahrungen aus Unfällen resultieren, das muss man offen zugestehen. Denn der Mensch hat seine verwendeten Techniken auch immer gerade im Angesicht von Unfällen und deren Analyse verbessert, um damit wiederum vergleichbare Unfälle zu vermeiden. Dies wird auch auf dem Weg zum autonomen Fahren so sein.

 

 

[1] Singh, Santokh: Critical reasons for crashes investigated in the National Motor Vehicle Crash Causation Survey, in: Traffic Safety Facts Crash•Stats. Report No. DOT HS 812 115. Washington, DC: National Highway Trafic Safety Administration (2015), unter: http://www-nrd.nhtsa.dot.gov/pubs/812115.pdf [abgerufen am: 08.11.2015] [2] Dekra Automobil GmbH: Verkehrssicherheitsreport 2012 Mensch und Technik, unter: http://www.dekra.de/de/verkehrssicherheitsreport-2012 [abgerufen am: 7.11.2015] [3] Statistisches Bundesamt: Verkehrsunfälle Zeitreihen 2014, unter: https://www.destatis.de/DE/Publikationen/Thematisch/TransportVerkehr/Verkehrsunfaelle/VerkehrsunfaelleZeitreihenPDF_5462403.pdf?__blob=publicationFile [abgerufen am: 7.11.2015] [4] Urmson, Chris: How a driverless car sees the road, in: Ted Talks (März 2015), ab Minute 1:49 unter: https://www.ted.com/talks/chris_urmson_how_a_driverless_car_sees_the_road [abgerufen am 8.11.2015] [5] Google self driving project: A ride in the google self driving car, in: You tube unter: https://www.youtube.com/watch?v=TsaES–OTzM [abgerufen am: 8.11.2015] [6] Hulverscheidt, Claus: Crash Kurs mit Google, in: Süddeutsche Zeitung, 10. Oktober 2015 unter: http://www.sueddeutsche.de/auto/autonomes-fahren-crash-kurs-mit-google-1.2684782 [abgerufen am: 8.11.2015]

[7] Winkle, Thomas: Sicherheitspotenzial automatisierter Fahrzeuge: Erkenntnisse aus der Unfallforschung, in: Autonomes Fahren, hrsg. v. M.Maurer et al., 2015, S. 351-374

[8] Fraedrich, Eva und Lenz, Barbara: Gesellschaftliche und individuelle Akzeptanz des autonomen Fahrens, in: Autonomes Fahren, hrsg. v. M.Maurer et al., 2015, S. 655f.

[9] Lin, Patrick: Why Ethics Matters for Autonomous Cars, in: Autonomes Fahren, hrsg. v. M.Maurer et al., 2015, S.70-85

[10] Lin, Patrick: The robot car of tomorrow might just be programmed to hit you, unter: http://www.wired.com/2014/05/the-robot-car-of-tomorrow-might-just-be-programmed-to-hit-you (2014), [abgerufen am: 22.11.2015] [11] BVerfG, 1 BvR 357/05 vom 15.02.2006, Rn. (1-156), unter
http://www.bverfg.de/e/rs20060215_1bvr035705.html , [abgerufen am: 22.11.2015] [12] Gerdes, Christian J., Thornton Sarah M.: Implementable Ethics for Autonomous Vehicles, in: Autonomes Fahren, hrsg. v. M. Maurer et al.,2015, S. 88-102

 

No Comments Yet.

What do you think?

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.