Ehemaliger Google-Entwickler warnt: „Wir sind auf dem direkten Weg ins digitale Mittelalter“

Wie leicht sich Menschen ablenken und täuschen lassen, lernte Tristan Harris schon als Kind. Damals machte er gerne Zaubertricks. „Ich habe dabei gelernt, dass die auf jeden menschlichen Verstand wirken“, sagt Harris. Genauso funktioniert die Magie der Technologiekonzerne. Deren Psychotricks und Designkniffe kennt er gut. Als Gründer des Center for Humane Technology hat er es sich zur Mission gemacht, ihre schädlichen Effekte zu bekämpfen.

Schon während des Studiums am Stanford Persuasive Technology Lab beschäftigte sich Harris mit den psychologischen Effekten von Softwaredesign. Zu seinen Kommilitonen gehörten die späteren Instagram-Gründer Kevin Systrom und Mike Krieger. Auch Harris gründete ein Start-up namens Apture, das 2011 von Google gekauft wurde. Er arbeitete dann für den Suchmaschinenkonzern und sorgte dort zwei Jahre später intern mit einer Präsentation für Wirbel.

Elf Milliarden Unterbrechungen pro Tag

Harris skizzierte darin seine Sorge, dass die Google-Entwickler dazu beitrügen, wie immer mehr Menschen immer stärker abgelenkt würden. „Wir sind verantwortlich für elf Milliarden Unterbrechungen pro Tag“, schrieb Harris.

Neben den Benachrichtigungsfunktionen von Apps kritisierte er auch andere Designelemente, die menschliche Schwächen ausnutzen und zu impulsiven Handlungen animieren. Die Möglichkeit in den Feeds der Social-Media-Dienste, ewig nach unten zu scrollen, in der Hoffnung auf neue, interessante Inhalte, oder mit einem Fingerwisch zu aktualisieren und Neuigkeiten anzuzeigen, nutze den gleichen psychologischen Mechanismus wie einarmige Banditen.

Die Konkurrenz der Anbieter um die Aufmerksamkeit der Nutzer führe zu einem Wettrüsten der Unternehmen bei der Entwicklung solcher Funktionen. Google solle sich aus diesem „Aufmerksamkeitscasino“ zurückziehen und darauf fokussieren, seine Angebote so zu gestalten, dass sie die Produktivität der Nutzer unterstützten. Google gab ihm in der Folge den Titel eines „Design-Ethikers“ und griff später einige Ideen auf. So wurden im Vorjahr bei Android Funktionen zur Verwaltung der Bildschirmzeit eingeführt.

Für Harris sind das wichtige, wenn auch kleine Schritte. Doch ihm geht es inzwischen um das große Ganze. „Die Welt wird durch die Aufmerksamkeitsökonomie immer verrückter und neigt sich immer stärker zu den Extremen, zu Hassrede und Verschwörungstheorien“, kritisiert Harris. Da besonders emotionale und polarisierende Inhalte häufiger geklickt und geteilt würden, würden die Empfehlungsmechanismen bei Youtube oder Facebook solche Beiträge bevorzugen und häufiger empfehlen.

[Aktuell auf tagesspiegel.de: Was Sie zum Coronavirus wissen müssen – 40 wichtige Fragen und Antworten zur Virus-Epidemie]

Das setzt eine gefährliche Spirale in Gang. „Das führt uns in digitales Mittelalter, wo die Leute immer mehr Zweifel daran haben, was wahr ist, und zerstört das Vertrauen in den Gesellschaften“, sagt Harris und warnt davor, dass durch diese Prozesse „Demokratien kollabieren“.

Aufmerksamkeitsfrage wichtiger als Datenschutz

Die Manipulation der Aufmerksamkeit ist für ihn daher auch viel entscheidender als der Datenschutz – auch wenn das Thema längst nicht den gleichen Stellenwert habe. Man solle sich einmal ein Datenschutz-Utopia vorstellen, in dem die Privatsphäre perfekt geschützt sei. „Dann werden wir trotzdem eine Verkürzung der Aufmerksamkeitsspannen, Probleme wie soziale Isolation, Einsamkeit, Sucht, Narzissmus, Skandalisierung, Polarisierung, Extremismus, den Glauben an Verschwörungen und Wahlmanipulation sehen“, sagt Harris.

Das Magazin „The Atlantic“ hat ihn einmal als eine Art „Gewissen des Silicon Valley“ bezeichnet. Inzwischen ist der 35-Jährige mit seiner Mission weltweit unterwegs. Gerade stellte er seine Thesen bei der DLD-Konferenz in München vor und diskutierte dann auf dem Weltwirtschaftsforum in Davos. „Letztlich müssen wir den Aufmerksamkeitsüberwachungskapitalismus verbieten“, sagt Harris. Dass das nicht so einfach geht, weiß er selbst.

Zumindest interessiert sich nun auch die Politik für seine Einschätzungen. Anfang Januar war er zu einer Anhörung im US-Kongress geladen. „Ich habe dort geraten, dass wir als Erstes die existierenden Regeln auf die Technologieplattformen anwenden sollten“, sagt Harris. Statt also neue Digitalbehörden zu schaffen, sollten die bestehenden Ministerien für Gesundheit, Bildung oder Verteidigung dafür sorgen, dass ihre Regeln und Gesetze auf den digitalen Raum angewendet werden. Als Beispiel nennt Harris Cartoons für Kinder, die am Vormittag im Fernsehen laufen: „Es gibt Regeln, was man dort zeigen darf und was nicht, und die müssen dann genauso für Youtube gelten.“

Harris fordert digitales Update von Gesetzen

Um das umzusetzen, schlägt Harris vor, die Regierung sollte von allen bestehenden Behörden ein „digitales Update" verlangen. Zumal diese ihre Aufgaben in der digitalen Welt teils effektiver erledigen können als in der analogen. So können Alkoholhersteller sich immer darauf zurückziehen, dass sie nicht wissen, wer ihr Produkt kauft und welche Kunden süchtig sind. „Im Unterschied dazu weiß Facebook, wer sich permanent einloggt oder noch mitten in der Nacht Instagram oder Whatsapp nutzt.“ Das Unternehmen könnte also messen, wie viele Menschen womöglich abhängig und auch ob es beispielsweise noch Teenager sind. „Daher könnte das Gesundheitsministerium Facebook dazu verpflichten, einmal im Quartal einen Bericht zu erstellen, wie viele Kinder und Jugendliche den Dienst wie oft benutzen oder sich nach Mitternacht noch anmelden und keinen Schlaf bekommen“, schlägt Harris vor. „Dann könnte Facebook verpflichtet werden, dafür zu sorgen, dass diese Zahlen sinken.“

Allerdings hat er derzeit wenig Hoffnung, dass in den USA solche Ideen umgesetzt werden. Zwar gebe es Gesetzesvorschläge, um sogenannte dark patterns, manipulative Designfunktionen von Apps und Websites, zu verbieten. „Aber die USA sind derzeit wie ein Zirkus, da wird nichts verabschiedet“, sagt Harris. „Daher muss sich Europa zuerst bewegen und des Problems der Aufmerksamkeits- Manipulation annehmen.“

Ein weiterer Ansatz dafür sei es, zu versuchen, die Aufmerksamkeit von den Gewinnen zu entkoppeln. Bislang verdienen Facebook oder Youtube umso mehr Geld, je mehr Zeit die Nutzer dort verbringen. Ähnlich wie der einflussreiche Internetrechtler Lawrence Lessig oder der frühere Facebook-Investor und jetzige Zuckerberg-Kritiker Roger McNamee plädiert Harris dafür, Regeln zu schaffen, die statt werbefinanzierter Geschäftsmodelle Varianten mit einer Gebühr bevorzugen. „Bei der Energie wurden Gesetze erlassen, die Gewinne von der Menge des Verbrauchs getrennt haben“, sagt Harris. „Wir könnten auch den Technologieunternehmen Grenzen setzen, bei denen sie nicht mehr Geld mit weiteren Minuten der Aufmerksamkeit verdienen dürfen.“

Zur Startseite

• Tagesspiegel Digitalisierung & KI