Diktatur der Software: Der Morgen des Überwachungskapitalismus
Eine Versicherung will den Lebenswandel ihrer Kunden per App erfassen. Das ist nur der Anfang. Unser Gastautor Christopher Lauer berichtet von der Front und kommt zu dem Schluss: Es ist Zeit für Verbote.
Jetzt mal angenommen, Sie stehen im Supermarkt an der Kasse, wollen grade zum Portemonnaie greifen und statt Ihnen eine Rechnung zu präsentieren, sagt der Kassierer, Sie könnten auch an einer Umfrage teilnehmen und den Einkauf dadurch bezahlen. Würden Sie das machen? Würden Sie Fragen zu Ihrer sexuellen Orientierung, zu Ihrem Vermögen, zu Ihren Vorlieben und Abneigungen, zu Ihrem Lebensstil beantworten, um Ihren Wocheneinkauf für vermeintlich umsonst zu bekommen? Vielleicht gäb’s noch ein lustiges Plüschtier oder ein Messerset als Werbegeschenk dazu. Das wär doch super, oder?
Der Fall Generali zeigt: Das Gesundheitssystem wird zertrümmert werden
Die meisten Menschen würden, hoffe ich, so was als totalen Quatsch abtun und darauf bestehen, an der Kasse mit Geld zu bezahlen, um dann ihre Kundenkarte zu zücken und sich zumindest so vermessen zu lassen. Was früher als harmloser Punktesammelspaß daherkam, zieht immer weitere Kreise: Der größte Versicherer Europas, Generali, kündigt an, Menschen, die sich selbst durch sogenannte Gesundheitsapps überwachen lassen, Rabatte und Boni bei der Krankenversicherung zu gewähren. Es passiert also genau das, was ich im Sommer angesichts der Einführung der Apple-Watch und Apples „Health App“ angekündigt habe: Das Gesundheitssystem, wie wir es kennen, wird zertrümmert werden.
Die Idee der Krankenversicherung war es nie, dafür zu sorgen, dass sich Leute gesund verhalten. Sie war es, dass Leute nicht sterben, wenn sie krank werden. Die Solidarität wird jetzt durch die Identifikation eines vermeintlichen Individualversagens ersetzt.
Dabei kommt Generalis System erst mal harmlos daher, es ist ja freiwillig. Es wirkt auf den ersten Blick wie ein tolles Anreizsystem, ich mach’ meine Übungen, lass’ mich vermessen, bekomme ’nen Rabatt oder ein lustiges Geschenk, alles tipptopp. Dass die Versicherung dadurch für alle teurer wird, die an diesem freiwilligen Vergnügen nicht teilnehmen, ist zwar nicht offensichtlich, aber Tatsache. Und wenn man schon mal damit anfängt, den Preis der Krankenversicherung durch persönliche Daten zu individualisieren, warum dort haltmachen? Man hat doch auch Bewegungsdaten. Die könnte man, total praktisch, doch mit dem Kriminalitätsatlas der Stadt Berlin vergleichen. Wer also eine Versicherung gegen Diebstahl und Raub abschließt, fährt günstiger, wenn er sich nur durch die sicheren Teile einer Stadt bewegt. Biste ja selbst schuld, wenn du dich in ein Gefahrengebiet begibst. Halt dumm für die, die dort wohnen, aber wo gehobelt wird, da fallen Späne. Und warum sollten dicke Menschen nicht mehr für ein Busticket bezahlen, wenn der Bus durch ihr Übergewicht doch mehr Kraftstoff verbraucht? Warum müssen die Dünnen die Dicken quersubventionieren?
Überwachungskapitalismus heißt: Was der Algorithmus produziert, wird als Realität deklariert
Alles was individuell angepasst werden kann, wird individuell angepasst werden. Die Kreditwürdigkeit, der Preis für eine Reise, ein Mietfahrzeug oder die Bestellung beim Lieferservice. Das Prinzip lässt sich unendlich weiterspinnen, am Ende geht es immer um dasselbe: Die Daten, die wir täglich produzieren, werden in Algorithmen gepumpt, deren Wirkmächtigkeit einfach mal so behauptet wird, und die Aussagen, die dieser Algorithmus dann trifft, werden als Realität deklariert. Willkommen im Überwachungskapitalismus.
Der Begriff Überwachungskapitalismus wurde durch die US-amerikanische Wissenschaftlerin Shoshana Zuboff geprägt und von ihr wie folgt definiert: Die durch uns produzierten Daten sind Güter. Sie werden durch Überwachung produziert. Diese Überwachungsgüter haben einen Wert, sind also Überwachungskapital. Es entsteht ein Überwachungskapitalismus, in dem unser Verhalten zur Ware wird. 2015 wird ein Buch Zuboffs über den Überwachungskapitalismus erscheinen.
Mit seiner Ausgabe vom 13. September dieses Jahres veröffentlichte der „Economist“ einen Special Report zum Thema Werbung und Technologie mit der markanten Überschrift „Surveillance is advertising’s new business model“. Übersetzt heißt das so viel wie: Überwachung ist das neue Geschäftsmodell der Werbung. Auf zwölf Seiten wird das technisch Mögliche eines Teils dieser neuen Überwachungsindustrie beschrieben. Einfach ausgedrückt: Alle Informationen, die Sie bei der Nutzung Ihrer Elektronik produzieren, sind bereits Ware. Es ist möglich Männer mit Beziehungsproblemen zu identifizieren, weil sie nach Schokolade und Blumen suchen, Menschen mit Schulden, weil sie sich über die Durchführung einer Privatinsolvenz informieren. Wenn ich also an dieser Stelle über den entstehenden Überwachungskapitalismus schreibe, ist das kein Zwischenruf aus dem Elfenbeinturm, es ist ein Bericht von der Front.
Die Probleme, die entstehen, sind mannigfaltig und liegen auf der Hand: Aktiv in die Nutzung einer Kundenkarte einzuwilligen und sie beim Einkauf aus eigener Entscheidung zu zücken ist das eine. Nicht zu wissen, welche Aussagen ein Algorithmus durch das Ansurfen einer Webseite oder durch das Verwenden eines Suchbegriffes trifft das andere. Habe ich wirklich HIV, oder informiere ich mich nur für ein Schulreferat darüber? Habe ich selbst Schulden oder suche ich einfach viel nach dem Begriff, weil ich Schuldnerberater bin? Bin ich Alkoholiker oder suche ich seit Stunden nach dem einen Wein, den ich vor fünf Jahren im Urlaub in Spanien trank und danach nie wieder gefunden habe? Das wird insbesondere dann zum Problem, wenn einmal falsche Informationen gespeichert wurden, ohne dass der Betroffene überhaupt weiß, dass sie gespeichert wurden. Wir wissen momentan schlichtweg nicht, wann wer welche Daten wie erhebt und wie diese dann weiterverarbeitet werden.
Google Flu Trends und der Fall Rogoff zeigen: Die Realität ist wandelbar
Die darüber hinaus viel zu wenig gestellte Frage ist, ob Algorithmen tatsächlich die Realität abbilden, oder erst dadurch, dass sie Aussagen treffen, Realität entsteht. Beispiel Google Flu Trends, ein Algorithmus, der den Ausbruch einer Grippewelle in den USA anhand der bei Google getätigten Suchanfragen vorhersagen soll und der manchmal noch als Vorzeigefall gebracht wird, wie die Analyse gesammelter Daten zum Wohle der Menschheit eingesetzt werden kann. War die Vorhersage 2009 und 2010 noch recht genau, überschätzte der Algorithmus von 2011 bis 2013 die Grippehäufigkeit konsequent. Grund hierfür war es, dass der Algorithmus eben nicht wissen konnte, ob Personen, die nach Grippe-Symptomen suchten, wirklich Grippe hatten oder eine Krankheit mit ähnlichen Symptomen oder sich einfach für Grippe interessierten, zum Beispiel aufgrund der Berichterstattung über die Vogelgrippe oder Sars. Selbst wenn der Algorithmus funktionieren würde – er ist falschherum gedacht. Es wäre ein weitaus sinnvolleres Unterfangen, eine flächendeckende Grippeimpfung sicherzustellen, um die alljährlichen Ausbrüche mit zehntausenden Toten zu verhindern. Doch das gestaltet sich selbst in Ländern wie Deutschland schwierig.
Kommen wir also zurück zu Generali und seiner Krankenversicherung: Der Nutzen eines solchen Versicherungsmodells ist vor allem erst einmal eine Behauptung. Wie wird denn gesundes Verhalten definiert? Und aufgrund welcher Metrik? Ist Joggen automatisch immer gut? Ist es gut in einer Stadt wie Berlin, mit seiner hohen Feinstaubbelastung? Wie gesund ist ein Jogger, der beim Überqueren einer Kreuzung von einem unachtsamen Autofahrer umgemäht wird und dabei einen Schädelbasisbruch erleidet? Kann eine Rollstuhlfahrerin gesund sein, wenn Joggen das Maß für Gesund ist? Was ist gesundes Essen? Die Ökotrophologie, die Ernährungswissenschaft, ändert gefühlt alle fünf Jahre ihre Meinung darüber, ob man mehr Fett oder mehr Kohlenhydrate zu sich nehmen soll, wodurch diese Zunft für mich eher in den Bereich der Essensastrologie rutscht. 1991 hatte man mit einem Body-Mass-Index von 27 noch Normalgewicht, 2000 änderte die Weltgesundheitsorganisation die Definition und schwupps endete Normalgewicht bei einem Body-Mass-Index von 25, über Nacht wurden Millionen von Menschen übergewichtig. Gleichzeitig gibt es Studien, die nahelegen, dass Menschen mit einem Index von 27 die höchste Lebenserwartung haben.
Selbst Rogoff und Reinhart verkehrten die Realität durch falsche Dateninterpretationen
Die Kriterien für gesund und ungesund sind oft willkürlich definiert, doch diese Kriterien formen Realität. Die Wissenschaft kann noch durch die Veröffentlichung ihrer Erkenntnisse und deren Überprüfung in einen kritischen Diskurs über getroffene Annahmen treten. Die Algorithmen hingegen, die unsere Realität bestimmen, werden zum Betriebsgeheimnis erklärt und damit unüberprüfbar. Wie wichtig die Überprüfung sein kann, zeigt der Fall Reinhart und Rogoff. Die beiden Wirtschaftswissenschaftler aus Harvard veröffentlichten 2010 ein insbesondere von der Politik stark beachtetes Modell, wonach das Wirtschaftswachstum eines Landes um minus 0,1 Prozent schrumpft, sobald die Staatsverschuldung 90 Prozent des Bruttoinlandsprodukts übersteigt. Wasser auf die Mühlen all jener Finanzpolitiker, die einen harten Sparkurs fahren wollten. Thomas Herndon, Robert Pollin und Michael Ash von der University of Massachusetts Amherst wiederum veröffentlichten 2013 ein Papier, in dem sie nachweisen konnten, dass Reinhart und Rogoff furchtbar falsch lagen. Der Grund war einfach wie erschreckend: Sie hatten sich innerhalb ihrer Exceltabelle verrechnet und ganze Spalten ihres Datenkonvoluts nicht einbezogen. Aus der Wirtschaftsschrumpfung um minus 0,1 Prozent ab 90 Prozent Staatsverschuldung wurde ein durchschnittliches Wirtschaftswachstum von 2,2 Prozent – nur ein Prozentpunkt weniger, als Staaten mit einer durchschnittlichen Staatsverschuldung von 60 bis 90 Prozent ihres BIP haben. Herndon, Pollin und Ash hatten abermals die Realität geändert.
Algorithmen sind Betriebsgeheimnisse - und daher kaum zu kontrollieren
Wäre Reinharts und Rogoffs These auf Grundlage eines Algorithmus statt auf der Grundlage einer einfachen Exceltabelle entstanden, der Fehler wäre womöglich nie ans Licht gekommen. Darüber hinaus gibt es noch ein weiteres Problem mit Algorithmen, das aus der theoretischen Informatik stammt, das sogenannte Halteproblem. Grob besagt es, dass man zwar sagen kann, was ein Algorithmus kann, es lässt sich aber nicht sagen, was er nicht kann. Sie können sich also nie sicher sein, ob der Algorithmus wirklich das tut, was sie von ihm erwarten. Es kann also nicht nur die dem Algorithmus zugrunde liegende Theorie falsch sein, sondern obendrein auch der Algorithmus – und zwar ohne dass es bemerkt wird.
Es wird Zeit für eine Verbotsdiskussion über überwachungskapitalistische Praktiken. Es spricht viel dafür. Eine Verbotsforderung hat nichts mit German Angst oder Technikfeindlichkeit zu tun. Vorstöße wie der von Generali nutzen schlicht Gesetzeslücken und mangelnde Regelungen aus, weil kein Gesetzgeber einen solchen Wahnsinn vorhersehen kann. Selbst wenn 100-prozentige Datensouveränität möglich wäre, jeder also über jede Datenverarbeitung informiert werden würde, einwilligen müsste und Daten-Missbrauch im Einzelfall mit hohen Strafen belegt würde: Ein auch nur in Teilen auf Individualversagen aufgebautes Gesundheitssystem zerstört die Solidargemeinschaft. Es dient dazu, all jene auszusortieren, die nicht in die willkürliche Metrik eines Algorithmus passen. Generali geht es nicht um ein besseres Gesundheitssystem, es geht darum, Kosten zu minimieren und Gewinn zu maximieren. Das ist schlichtweg asozial. Es wird mit Technik Politik gemacht, ohne dass sich die Gesellschaft oder das Parlament zum Sachverhalt eine Meinung bilden konnten. Generali unterminiert schlussendlich staatliches Handeln. Ist erst durch diese Praxis eine neue Normalität geschaffen, wird es schwer für die Politik, dagegen vorzugehen.
Wie wir leben, sollten wir uns nicht von einem Stück Software diktieren lassen.
Zum Schluss sei die Bemerkung erlaubt, dass sich ein nach Generalis Vorstellungen gesundes Leben möglicherweise gar nicht lohnt. Frei nach dem österreichischen Philosophen Robert Pfaller: Worin unterscheidet sich ein Leben ohne Höhen und Tiefen, ein Leben ohne Exzess vom Tod? Genau: gar nicht. Was bringt es, 100 Jahre alt zu werden, um dann auf dem Sterbebett festzustellen, dass man ein unfassbar langweiliges Leben geführt hat? Das soll nicht heißen, dass wir nicht auf unsere Gesundheit achten sollen. Aber es gibt eben einen Unterschied zwischen Gesundheitswahn und maßvollem Genuss mit Freiraum zur Grenzüberschreitung. Gesund sein ist kein Wert an sich, wir leben nur einmal und der Tod ist ein Arschloch, er kommt ohne Vorankündigung und ohne Rücksicht auf den Lebenswandel. Wie wir leben, sollten wir uns nicht von einem Stück Software diktieren lassen.
Christopher Lauer ist Mitglied des Abgeordnetenhauses Berlin. Er war Mitglied der Piratenpartei und zuletzt deren Berliner Landesvorsitzender. Im September hat Lauer seinen Austritt aus der Partei erklärt.