Er deckte den Cambridge Analytica-Skandal auf: „Herr Wylie, wie hackt man eine Demokratie?“

Der Kanadier Christopher Wylie (30) arbeitete als Datenanalyst für das britische Unternehmen Cambridge-Analytica und deckte den dortigen Datenskandal auf. Die Firma hatte Millionen Nutzerdaten illegal genutzt, um Donald Trumps Wahlkampf zu unterstützen.

Herr Wylie, 2018 deckten Sie den Datenskandal um Facebook und Cambridge Analytica auf. In Ihrem Buch „Mindf*ck – Wie die Demokratie von Social Media unterwandert wird“ schreiben Sie: Als Hacker lernt man, dass jedes System Schwachstellen hat, die darauf warten, ausgenutzt zu werden. Wie hackt man eine Demokratie?
Durch genau die Rechte, die sie einem gewährt: freie Meinungsäußerung, Versammlungsfreiheit. In der Geschichte gab es immer wieder Momente, in denen diese Möglichkeiten missbraucht wurden. Das erleben wir gerade wieder. Wir werden in jedem Moment, in dem wir Technologie nutzen, ausgeforscht. Die ständige Überwachung unserer Gesellschaft wird immer normaler.

Was, fürchten Sie, folgt daraus?
Jedes autokratische System hat als Erstes stets so viele Informationen über die Menschen zusammenzutragen, wie möglich. Es gibt eine Million Beispiele, welches Ende das nimmt. Jetzt haben wir mit Social Media eine Industrie, deren gesamtes Geschäftsmodell das Sammeln von Informationen ist.

Die Gefahr, die sich daraus ergibt, ist so schwer zu vermitteln, weil viele Menschen eine komplett falsche Vorstellung davon haben, was die sozialen Medien eigentlich sind.

Nämlich?
Firmen wie Facebook bezeichnen sich selbst als Dienstleister. Allerdings ist die gängigste Jobbeschreibung im Silicon Valley nicht Kundendienst-Manager, sondern Engineer oder Architect. Soziale Medien sind eine Infrastruktur. Mit dem Unterschied, dass wir keinem echten Architekten oder Flugzeugkonstrukteur erlauben, einfach zu bauen, was er will, und dann ein Schild an die Tür zu stellen, auf dem steht: „Wer eintritt, akzeptiert mein Design und alle damit einhergehenden Risiken.“

Diese Dinge sind viel zu komplex, als dass eine Durchschnittsperson eine souveräne Entscheidung darüber treffen könnte. Deshalb gibt es Sicherheitsstandards im Baugewerbe. Aber hier geht es um einen Sektor, der nicht nur einer der größten der globalen Wirtschaft ist, sondern auch in jeder Minute das Leben der Menschen durchdringt, ohne dass es Regulatoren oder Regularien gibt.

Im Silicon Valley argumentiert man, dass die Gesetze eben nicht mit der technischen Entwicklung Schritt halten können.
Klar, die erste moderne Bauordnung wurde in London auch erst eingeführt, nachdem die Stadt 1666 abgebrannt war. Doch die Gesetze können auch nicht mit dem Fortschritt in der chemischen Forschung Schritt halten. Sollten wir die deshalb nicht mehr regulieren?

Wenn ich mit Leuten im Europaparlament rede, haben die immer diese Idee, dass der Schutz von Privatsphäre und Daten eine extrem detaillierte Gesetzgebung bräuchte. Ich behaupte das Gegenteil. Wir sollten das machen wie im Medizinbereich: Das Gesetz regelt nur, dass die Verfahren sicher zu sein haben, dann setzt man kompetente Leute zusammen, die definieren, was das im Detail bedeutet.

Sie schreiben, dass jeder Postbote, wenn er wie Google unsere Post läse, ins Gefängnis wandern würde. Müssten die Dienste dann nicht streng genommen abgeschaltet werden, bis eine Lösung gefunden ist?
Und was, wenn Sie nur so Bankgeschäfte tätigen können? Wenn das die einzige Möglichkeit ist, ihre Freunde zu kontaktieren oder sich für einen Job zu bewerben? Was wäre, wenn Ihr Arbeitgeber es Ihnen nicht mehr erlauben würde, zu googeln, weil sie dabei getrackt werden?

Sie haben die Konsequenzen gezogen und Ihr Alexa-Gerät eingemottet, die Kamera an Ihrem Laptop überklebt, Ihren Fernseher mit Internetanschluss abgehängt. Was benutzen Sie noch?
Twitter. Bei Instagram bin ich rausgeflogen, die gehören ja auch zu Facebook.

Was raten Sie den Nutzern? Macht nicht mehr mit bei vermeintlichen Quizspielen! Löscht eure Profile!
Nein. Ich werfe niemandem vor, sich in den sozialen Medien zu bewegen. Ich möchte nicht, dass die Verantwortung bei den Nutzern liegt, sondern bei denen, die mit den Diensten Geld machen.

Der Bundesdatenschutzbeauftragte warnte kürzlich vor Whatsapp, das ebenfalls zu Facebook gehört.
Das greift zu kurz. Man kann auch manipulative Designs so bauen, dass sie mit den Datenschutzbestimmungen übereinstimmen. Wir brauchen einen viel größeren Ansatz. Die Frage müsste sein: Was ist uns die Selbstbestimmung der Menschen wert? Ich kenne kein Land, das diese per se schützt. Versammlungs-, Rede- und Meinungsfreiheit sind nur Nebenprodukte einer angekommenen Handlungsmacht. Was aber, wenn wir die nicht mehr haben?

Warum sollten wir sie verlieren?
Wir sind die ersten Menschen in der Geschichte, die sich in einer Umwelt bewegen, die aktiv über uns nachdenkt und versucht, unser Handeln zu beeinflussen. Warum, glauben Sie, möchte Amazon, dass Sie sich eine Alexa ins Wohnzimmer stellen?

Die wollen Sie verstehen und als Konsumenten optimieren. Ich möchte aber nicht, dass die Freiheit der Menschen von einem Algorithmus abhängt. Das könnte zu gewaltigen Beschneidungen der Persönlichkeitsrechte führen. Was, wenn wir irgendwann Sicherheitssysteme haben, die auf Grundlage eines angelegten Risikoprofils entscheiden, wen sie in ein Geschäft lassen und wen nicht?

In Deutschland streitet man derzeit vor allem über die Corona-App. Wie bewerten Sie die?
Ohne die Pandemie kleinreden zu wollen, bereitet es mir schon Sorge, dass ein Staat da einen Mechanismus in Gang setzt, der Ihren Aufenthaltsort und Ihre Kontakte zu anderen Menschen permanent aufzeichnet. Wenn man sich die Krisen der jüngeren Geschichte anschaut, die zu neuen Gesetzen geführt haben, wurde das Versprechen, diese nur temporär zu nutzen, nie eingehalten.

Der Patriot Act ist bis heute in Kraft. Und stellen Sie sich vor, wir hätten diese Technologie schon in den 1970ern in Ostdeutschland gehabt.

[Mehr zum Thema: Handy checkt Nähe zu Infizierten – was man über die Corona-Warn-App wissen muss]

Nach Protesten wurde vereinbart, dass die Daten immerhin nicht zentral gespeichert werden.
Ich glaube auch nicht, die Politiker und Ärzte haben eine böse Absicht. Aber was, wenn sich die Rahmenbedingungen ändern? Was, wenn das System kaputtgeht? Oder gehackt wird? Nur weil es gerade nicht möglich ist, bedeutet das nicht, dass es nicht später möglich gemacht werden kann. Da reicht ein Update.

Man könnte das einfach nicht installieren.
Es ist trotzdem wichtig, darüber nachzudenken. In autokratischen Systemen macht einen allein der Wunsch nach Privatsphäre verdächtig. Diese bedeutet aber nicht nur das Recht, unbeobachtet zu sein. Sie ist Teil der persönlichen Entwicklung.

Wenn Sie mit Ihren Kollegen zusammen sind, zeigen Sie andere Seiten von sich als mit Freunden oder im Kreise der Familie. Privatsphäre erlaubt es Ihnen, Rollen auszutesten und als Person zu wachsen. Das ist innerster Bestandteil des Menschseins. Wenn uns das genommen wird, haben wir nicht länger die Kontrolle zu bestimmen, wer wir sind.

In Ihrem Buch beschreiben Sie, wie Cambridge Analytica Daten aus sozialen Netzwerken genutzt hat, um Menschen mittels Microtargeting politisch zu beeinflussen. Wie genau funktioniert so etwas?
Bevor es Cambridge Analytica gab, arbeitete ich für eine Firma namens SCL Group. Die hat zum Beispiel als Subunternehmer für Regierungen gearbeitet, um Extremisten oder die Arbeit von Drogen-Kartellen zu sabotieren. Unsere Aufgabe war es etwa, eine Person dazu zu bringen, Befehle zu verweigern oder gegen einen Vorgesetzten aufzubegehren.

In prädigitalen Zeiten mussten dafür Menschen die Organisation infiltrieren. Häufig waren das Sexarbeiterinnen. Die erzählten ihren Freiern dann, sie hätten gehört, dass der oder der den oder den ausschalten wolle. So etwas stiftet Streit, der zu Fehlern führt, für die man dann potenziell jemand verhaften konnte.

Ab 2014 dann benutzte der spätere Trump-Berater Steve Bannon Cambridge Analytica, um „zornige junge Männer zu manipulieren und für die Wahl zu mobilisieren“. Finanziert wurde das, wie Sie schreiben, von dem Milliardär Robert Mercer.
Dabei haben wir prinzipiell genauso gearbeitet. Nur dass unsere Zielpersonen über Social Media identifiziert wurden. Die Sozialwissenschaften hatten lange ein Problem mit der Beweisbarkeit und Messbarkeit. Dank der Technologie lässt sich nun jedoch jede noch so kleine Interaktion in Daten umsetzen und quantifizieren.

Wen hatten Sie im Blick?
Unser Algorithmus suchte nach Menschen, deren Browserverhalten nahelegte, dass sie sich beispielsweise offen zeigten für Verschwörungsdenken. Diesen Leuten wurden dann von uns gefertigte Links wie „Du wirst nicht glauben, was Obama jetzt wieder gemacht hat“ geschickt.

Im Anschluss luden wir sie in Chaträume oder Facebook-Gruppen ein. An dem Punkt konnte man anfangen, eine Beziehung zu den Leuten aufzubauen, was leicht war, weil wir ja so viel über sie wussten.

Niemand schöpfte Verdacht?
Nein, ihnen musste es so vorkommen, als wären sie zufällig über eine Gruppe von Gleichgesinnten gestolpert. Der Schlüsselpunkt einer solchen Operation ist, die Leute von traditionellen, vertrauenswürdigen Informationsquellen abzuschotten: Freunden, Familie, Zeitungen.

Je mehr die Zielperson eingebunden ist, desto mehr hört sie plötzlich Dinge, über die ihre Freunde, ihr Pastor und CNN nicht reden. Dabei helfen soziale Medien aus mehreren Gründen. Zum einen kann man im Internet einfach mal eine Woche lang Youtube-Videos gucken, in denen einem erzählt wird, die Erde sei eine Scheibe.

Früher hätte man dafür in eine Bücherei gehen oder eine lokale Gruppe ausfindig machen müssen. Dabei wäre man etlichen Menschen begegnet, die einem gesagt hätten, was das für ein Quatsch ist. Zum anderen ist das ganze System der sozialen Medien darauf aufgebaut, Leute in vermarktbare Segmente aufzuspalten.

Und wie überträgt man das in die analoge Welt?

Sobald die Gruppen eine bestimmte Größe hatten, da reichen 1000 Leute, schickten wir Einladungen für ein Treffen in einem Café oder einer Bar raus. Selbst wenn dort nur zehn Prozent auftauchten, hatte man plötzlich 70 bis 100 Leute versammelt.

Denen kam es dann so vor, als seien sie Teil einer gewaltigen Bewegung. An dem Punkt fangen die Leute an, sich selbst zu organisieren. Wenn das an vielen Orten gleichzeitig passiert, schafft man einen Aufstand. In unserem Fall die Alt-Right-Bewegung.

Sie schreiben, dass Sie sich bis heute schuldig fühlen, Trump ins Amt geholfen zu haben. Warum haben Sie so lange weggesehen?

Als ich mit Steve Bannon arbeitete, war er ja noch nicht der weltbekannte Schurke. Wir haben über Foucault geredet, über Mode, er war ein Nerd wie ich, und eine Zeit lang fand ich ihn sogar cool. Ich war erst 23. Das ist nicht unbedingt eine Entschuldigung.

Auch habe ich mich einlullen lassen von dem Silicon-Valley-Mantra „Move fast and break things“. Das heißt, wenn du eine coole Idee hast, dann mach einfach weiter. Wenn du Erfolg hast, fragt am Ende keiner, wie viel Porzellan du zwischenzeitlich zerdeppert hast. Doch ich habe nicht darüber nachgedacht, was ich da eigentlich kaputtmache. Dass wir Menschen in Gefahr bringen und demokratische Institutionen beschädigen. Ich war komplett blind. Mir tut alles sehr leid.

Auch, weil Ihnen die Arbeit so viel Spaß gemacht hat? Sie beschreiben, dass Programmieren Ihnen mit zwölf, als sie wegen einer Erkrankung im Rollstuhl saßen und gemobbt wurden, wie Magie erschien.

Ja, man schreibt Anleitungen und Dinge entstehen. Der Computerraum unserer Schule war der einzige Ort, an dem ich mir nicht fremd vorkam. Später fand ich in der Computerszene eine Gemeinschaft. Es gab immer jemanden, der bereit war, mir zu helfen, und ich lernte, dass nicht unbedingt unmöglich ist, was zunächst so scheint.

Aber das Problem ist: Wenn man sich nur Daten anschaut, dann kann das sehr entmenschlichend sein. Die Muster, Beziehungen und Grafiken sind zwar cool, aber nicht lebendig, keine Menschen. Ich wurde auch zum Whistleblower, weil mir klar wurde, dass diese Manipulation wieder passieren wird, wenn wir nichts ändern.

Cambridge Analytica wurde 2018 aufgelöst.

Ja, und? Ein Teil der Datenanalysten arbeitet heute direkt für das Trump-Wahlkampfteam oder ihm nahestehende Lobby-Gruppen.

Gewinnt er die anstehende Wahl?

Dass viele Leute jetzt wegen der Corona-Maßnahmen alleine zu Hause am Rechner sitzen, dürfte dem zuträglich sein.

Was also fordern Sie?

Wie das Internet heute aussieht, ist keine Zwangsläufigkeit. Es ist so beschaffen, weil seine Konstrukteure entschieden haben, dass das ihr Geschäftsmodell ist. Daraus folgt: Man kann es reparieren. Ein wichtiger Schritt neben einer Bauordnung für das Internet wären Ethikstandards für Programmierer.

Wenn Sie als Ärztin aufgefordert werden, etwas zu tun, was gegen den hippokratischen Eid verstößt, dann müssen Sie sich weigern. Als Softwareentwicklerin müssen Sie heute nie über die Folgen Ihres Tuns nachdenken. Selbst wenn Sie wissen, dass Ihre Arbeit Menschen täuscht, die Demokratie beschädigt oder Rassismus befeuert. Die Konstrukteure müssen zur Verantwortung gezogen werden.

Zur Startseite

• Donald Trump