zum Hauptinhalt
Szene aus der Dresdner Inszenierung von Schirachs „Terror“ – mit Klaußner in der Rolle des Richters und Tom Quaas als Zeuge.
© David Baltzer / bildbuehne.d

Ferdinand von Schirachs Gerichtsdrama "Terror" Algorithmen des Todes

Ferdinand von Schirachs Theaterstück „Terror“ lässt das Publikum entscheiden, ob man töten darf, um Leben zu retten. Wie aber programmiert man selbstfahrende Autos, die bei Unfällen möglichst geringen Schaden anrichten sollen?

In Ferdinand von Schirachs Gerichtsdrama „Terror“ sitzt das Publikum über einen Major der Bundeswehr zu Gericht, der eigenmächtig ein von einem Terroristen entführtes Passagierflugzeug abschoss. Der Major opferte die 164 Menschen im Flugzeug, um die 70 000 Menschen in der Münchner Allianz-Arena zu schützen, in die der Terrorist die Maschine jagen wollte. Die Entscheidung, ob der Major wegen mehrfachen Mordes angeklagt werden soll, wird derzeit auf verschiedenen deutschen Bühnen jeweils ans Publikum – als den „realen“ Schöffen in diesem Gedankenexperiment – delegiert. So soll es auch bei Lars Kraumes Verfilmung des Stücks mit Burghart Klaußner und Florian David Fitz sein, die im Herbst in der ARD zu sehen sein wird. Das Ergebnis bisher: Die Mehrheit stimmt für Freispruch. Mit anderen Worten: Rund zwei Drittel des Theaterpublikums verhalten sich verfassungswidrig.

Denn es widerspricht dem Eingangsparagrafen der deutschen Verfassung über die Unantastbarkeit der Menschenwürde, Leben gegen Leben abzuwägen und gegebenenfalls wenige unschuldige Menschen zur Rettung vieler unschuldiger Menschen zu töten. Im Widerspruch zum moralischen Impuls der meisten Bürger besagt die ethische Grundlage der deutschen Rechtssprechung: Das kleinere von zwei Übeln lässt sich weder mathematisch ermitteln noch durch Diskriminierung nach Alter, Geschlecht oder Anzahl. Das Leben von zehn Menschen ist nicht mehr wert als das von zweien und das Leben eines Kindes nicht mehr als das eines Greises. Die Ethik des unverhandelbaren Subjekts verbietet, einen Menschen auf ein Mittel zur Rettung anderer zu reduzieren.

Die deutsche Verfassung bevorzugt damit die Pflichten- oder Gesinnungsethik gegenüber der Zweck- oder Verantwortungsethik. Während diese auf das Ergebnis blickt und die Opferung der wenigen zur Rettung der vielen für vertretbar hält, akzentuiert jene das Handeln (bei Schirach der Abschussentschluss des Majors) und bewertet die (negative) Pflicht, niemanden zu töten, höher als die (positive) Pflicht, Menschen zu retten. Aus diesem Grund kassierte das deutsche Verfassungsgericht Anfang 2006 jenen Paragrafen des vom Bundestag Anfang 2005 verabschiedeten Luftsicherheitsgesetzes, der als ultima ratio den Abschuss von Passagierflugzeugen erlaubte.

Das philosophische Weichensteller-Dilemma

In der Philosophie wird das lebensrettende Töten als Weichensteller-Dilemma diskutiert: Eine Straßenbahn ist außer Kontrolle geraten und droht fünf Personen zu überfahren; die einzige Handlungsoption eines Zeugen besteht darin, die Bahn auf ein Nebengleis umzuleiten, wo sich nur eine Person befindet. Der Tötungsbeschluss wird in einer Variante des Dilemmas explizit, indem man einen unbeteiligten dicken Mann von der Brücke auf die Schienen stößt, der die Straßenbahn mit seiner Körpermasse aufhält.

Es liegt auf der Hand: Schirachs Gerichtsdrama übersetzt das ethische Gedankenexperiment in die Zeit nach 9/11 und reagiert auf den Kampf von Terroristen gegen die Modernisierung der Gesellschaft. Sein tieferer Sinn aber liegt darin, die Gesellschaft auf das vorzubereiten, was der technische Fortschritt der Moderne mit sich bringt: Autos, die computergesteuert fahren.

Die Diskussion, nach welchen Kriterien Algorithmen in autonomen Fahrzeugen über Leben und Tod entscheiden, ist unter dem Stichwort Todesalgorithmen in vollem Gange, wie nicht nur die vom Verkehrsminister Alexander Dobrindt geplante Ethik-Kommission unter Vorsitz des früheren Bundesverfassungsrichters Udo Di Fabio zeigt. Auch hier ist das Weichensteller-Dilemma ein oft zitierter Bezugspunkt, wobei die Situation komplexer wird, wenn die Vernetzung und Geschwindigkeit im Auto zusätzliches Kontextwissen bereitstellt.

In der Vorentscheidung liegt der Gesetzesverstoß

Szene aus der Dresdner Inszenierung von Schirachs „Terror“ – mit Klaußner in der Rolle des Richters und Tom Quaas als Zeuge.
Szene aus der Dresdner Inszenierung von Schirachs „Terror“ – mit Klaußner in der Rolle des Richters und Tom Quaas als Zeuge.
© David Baltzer / bildbuehne.d

Gehen wir von folgendem Fall in einer nicht allzu fernen Zukunft aus: Ein Kind rennt auf die Straße, direkt vor ein autonom fahrendes Auto. Der Bordcomputer weiß durch Gesichtserkennung und Data Mining im Internet – beides spielt auch bei der Drohnenprogrammierung eine entscheidende Rolle – in Sekundenbruchteilen, dass die Ärzte der Frau am Straßenrand eine Lebenserwartung von vier Monaten geben, dass der Fahrradfahrer neben der Frau zwei kleine Kinder hat, dass ein weiterer Passant, der ebenfalls als Kollisionsziel infrage käme, das einzig verbliebene Kind einer pflegebedürftigen Frau ist und dass schließlich die Ausweichrichtung, in der sich kein Mensch befindet, über das gebrechliche Brückengeländer auf ein Bahngleis in 50 Meter Tiefe führt.

Welche Entscheidung der Bordcomputer auch trifft und welche Rolle dabei die Erkenntnisse aus dem Internet spielen mögen, die Verfassungswidrigkeit beginnt lange vor der Lebenswertanalyse im Gefahrenmoment. Denn die Algorithmen hinter dem Lenkrad werden nach dem Befund der Sachlage ihre Reaktion an genau der Wenn-dann-Logik ausrichten, mit der sie programmiert wurden. Manche Autos mögen also dem Kind, das den Unfall verursacht, nicht ausweichen; erst recht nicht, wenn das Kind ein Jugendlicher ist, der auf seinem Handy Pokémon gespielt hat, und wenn im Auto selbst Kinder sitzen. Andere Autos mögen zielsicher auf die sterbenskranke Frau steuern, wieder andere aufs Brückengeländer.

In dieser Vorentscheidung liegt der Gesetzesverstoß, denn sie erfolgt, anders als die reflexartige Reaktion eines menschlichen Fahrers (die kaum als Entscheidung zu bezeichnen ist), mit Bedacht und kaltem Blut. Die Entscheidung über Leben und Tod wird im hypothetischen Ernstfall lange vor Antritt der verhängnisvollen Fahrt getroffen – vielleicht an einem schönen Sommertag im Park, da man am Smartphone die Elemente des neuen Autos aussucht und nach Farbe und Polsterung per Fingerklick auch den gewünschten Todesalgorithmus bestimmt.

Wird der Fahrzeughalter die Wahl treffen?

Die neuen Technologien bringen ethische, psychologische und politische Fragen mit sich, die noch gestern völlig unverständlich gewesen wären: Wer wird die Todesalgorithmen in unseren Autos programmieren? Werden die Fahrzeughalter die Wahl haben? Wird sie beim Hersteller liegen? Wird es verschiedene Algorithmen für verschiedene Fahrzeugklassen geben? Für verschiedene Automarken? Für verschiedene Länder? Wird die Politik der Wirtschaft die Entscheidung aus der Hand nehmen und einen bestimmten Algorithmus anordnen? Werden verschiedene Staaten verschiedene Algorithmen haben? Wird es einen UN-Beschluss geben? Einen Schwarzmarkt?

Die naheliegende Ansicht ist, dass man die ethische Ausstattung eines Autos nicht dem Hersteller überlassen kann, sondern einer gesellschaftlichen Regelung unterstellen muss, die natürlich eine gesellschaftliche Diskussion voraussetzt. Das einzig akzeptable Ergebnis dieser Diskussion wäre eine ethische Grundlegung für den Steuerungsalgorithmus eines autonom fahrenden Autos, wonach, wenn jemand sterben muss, es die Insassen im eigenen Fahrzeug sein sollen.

Dass es zu dieser Lösung kommt, ist derzeit noch zweifelhaft. Wie Befragungen ergeben, sind die meisten zwar dafür, das Leben der Fahrzeuginsassen zu opfern, um das Leben anderer zu retten, würden aber kein Auto kaufen, das auf eine solche Opferethik programmiert ist. Die Volksabstimmung, die Schirachs Theaterstück auslöst, könnte in dieser Hinsicht eine entscheidende Rolle zur Bewusstseinsbildung spielen. Wer da hin- und hergerissen ist zwischen der Verantwortungsethik (wonach ein Menschenleben weniger wert ist als zehn) und der Gesinnungsethik (wonach man zur Rettung von Menschen nicht andere Menschen töten darf), könnte im angenommenen Unfallfall beide Ansätze versöhnen. Die Happy-End-Lösung des Weichensteller-Dilemmas, die Schirachs Major nicht zur Verfügung stand, liegt in der Möglichkeit der Selbstopferung: Man ist selbst der dicke Mann und springt freiwillig.

Roberto Simanowski lehrt Medienwissenschaft an der City University in Hongkong. Im November erscheint bei Matthes & Seitz sein neues Buch „Abfall. Das alternative ABC der neuen Medien“, das auch den hier abgedruckten Text enthält.

Roberto Simanowski

Zur Startseite