Digitale Revolution und "Digital-Manifest": Droht uns eine digitale Diktatur?
Individuelle Preise und manipulierte Wahlen: Big Data und Künstliche Intelligenz bedrohen die Selbstbestimmung, warnen Forscher. Ihre Lösungsvorschläge sind aber noch unpräzise. Ein Kommentar.
Revolutionen leben von dem Versprechen, der Aufbruch in eine bessere Zeit zu sein: Weg mit den alten, verkrusteten Strukturen, es lebe der Fortschritt! Beim genaueren Hinsehen jedoch erweisen sich solche Ereignisse oftmals als katastrophale Wendungen, die die erhofften Segnungen nur ansatzweise liefern, siehe Oktober-Revolution in Russland oder Arabischer Frühling.
Auch die Digitale Revolution wendet nicht alles zum Besseren. Unbestritten sind die gewaltigen Fortschritte etwa in der Kommunikation oder in Wissenschaft und Industrie. Doch die Entwicklung geht rasant weiter und eröffnet Möglichkeiten, die verstören.
So wird in China überlegt, für jeden Bürger ein Punktekonto („Citizen Score“) einzuführen. Der individuelle „Wert“ errechnet sich aus Daten, die Banken, Onlinehändler und soziale Medien über den Bürger gesammelt haben. Zunächst soll der Score genutzt werden, um daraus Konditionen für eine Kreditvergabe abzuleiten. Denkbar ist allerdings, diese Informationen mit solchen der Behörden zu verknüpfen und daraus Entscheidungen abzuleiten, wer welchen Beruf ausüben darf oder ein Visum für Auslandsreisen erhält.
Ein lesenswertes wie streitbares Dossier
Und das ist nur der Anfang. Die exponentiell anwachsende Datenmenge über die Bürger, eingespeist in ausgeklügelte Algorithmen, könnte es Staaten möglich machen, uns immer geschickter zu manipulieren. Datendiktatur statt Demokratie. Dieses Szenario zeichnen neun Forscher und IT-Experten aus Deutschland, der Schweiz und den Niederlanden in ihrem „Digital-Manifest“, das kürzlich im Fachmagazin „Spektrum der Wissenschaft“ veröffentlicht wurde. Es ist ein ebenso lesenswertes wie streitbares Dossier.
Die Autoren, darunter der Sozialwissenschaftler Dirk Helbing von der ETH Zürich und der Psychologe Gerd Gigerenzer vom Harding-Zentrum für Risikokompetenz in Berlin, schildern eindrucksvoll, dass die großen Umbrüche erst noch bevorstehen.
Heute verdoppelt sich die Datenmenge, die wir selbst produzieren, etwa einmal pro Jahr. Mitte der 2020er Jahre erwarten sie 150 Milliarden vernetzte Sensoren, die in Kleidung, Fahrzeugen oder Haushaltsgegenständen eingebaut sind. Dann werde sich die Datenmenge etwa alle zwölf Stunden verdoppeln. „Die Art, wie wir Wirtschaft und Gesellschaft organisieren, wird sich fundamental ändern“, heißt es. Unternehmen versuchten mehr noch als bisher aus Big Data Big Money zu machen. So gibt es erste Tests mit Preisen für Waren und Dienstleistungen, die je nach Kunde und Tageszeit variieren.
Von Big Data zu Big Nudging
Auch die Politik sei interessiert, vor allem wenn es darum geht, Bürger mit kleinen Tricks in eine gewisse Richtung zu lenken. „Nudging“ nennt sich die moderne Form des Paternalismus. Ein simples Beispiel: Wird Obst auf einem Buffet in Greifnähe drapiert statt am Ende des Tisches, wird mehr davon genommen. Big Data könnte für Big Nudging missbraucht werden, warnen die Autoren. Beispielsweise indem vor Wahlen Suchmaschinen und soziale Medien – ohne das Wissen der Nutzer – Einträge nach vorn stellen, die einen bestimmten Kandidaten bevorzugen. Experimente zeigen, dass gerade bei unentschlossenen Stimmberechtigten solche „Hilfestellungen“ funktionieren.
Was bei einzelnen Kandidaten klappt, kann auch mit politisch opportunen Meinungen gelingen, glauben die Autoren: Indem Nutzer mit personalisierten Informationen versorgt werden, die ins Konzept passen und so ein „digitales Gefängnis“ schaffen. Das muss nicht zwangsläufig von der herrschenden Klasse errichtet werden. Denkt man die erwarteten Fortschritte bei der Künstlichen Intelligenz hinzu, könnte sogar ein superintelligentes Informationssystem entstehen, dem wir hörig folgen und das unser Verhalten und die Gesellschaft steuert, heißt es.
Lösungsvorschläge sind technokratisch und unpräzise
So schaurig das klingt, so groß ist die Unsicherheit darüber, wie die Welt in einigen Jahrzehnten tatsächlich aussieht; dafür sind zu viele Variablen im Spiel. Das ist den Autoren auch gar nicht anzulasten. Enttäuschend sind eher ihre Lösungsvorschläge. Sie sind zumeist technokratisch und unpräzise wie „die Funktion von Informationssystemen stärker dezentralisieren“ oder „gesellschaftliche und ökonomische Vielfalt fördern“. Hoffentlich hilft die Diskussion über die Thesen dabei, an dieser Stelle präziser zu werden. Nötig ist sie in jedem Fall.