Warum wir für ein gerechtes Internet
kämpfen müssen
Einleitung: Eine persönliche Geschichte
1.Alles unter der Sonne
2.Was wir über unsere Geräte nicht wissen
3.Tücken der Wahlfreiheit
4.Die Macht der Riesen
5.Angst um die Arbeit
6.Wie Steuern verloren gehen
7.Die Hoffnung eines Grundeinkommens
8.Auch Maschinen machen Fehler
9.Schattenseiten der Personalisierung
10.Staaten als Komplizen
11.Digitale Zeitenwende
12.Was jeder Einzelne tun kann
13.Neustart im Netz
Dank
Quellen und Anmerkungen
Die ersten Jahrzehnte meines Lebens waren von der Zuversicht geprägt, dass die Digitalisierung ein zusätzlicher Motor hin zu einer gerechteren, aufgeklärteren Gesellschaft sein würde. Diesen Optimismus habe ich verloren. Ich erkenne: Es ist auch eine andere, eine düstere Variante des Internets möglich. Wir stehen derzeit an einem Scheideweg.
Ich bin im Jahr 1984 geboren – das ist jenes Jahr, in dem Apple seinen legendären Macintosh auf den Markt brachte. Dieser Computer war der erste, der erfolgreich auf die breite Masse der Konsumenten abzielte. Er hatte eine visuelle Oberfläche und eine simple Bedienung – und läutete einen Wandel ein: Zunehmend wurde es üblich, dass Menschen in ihren eigenen vier Wänden einen Computer stehen haben.
Zugegeben: Als neugeborenes Baby bekam ich wenig von dieser technologischen Zeitenwende mit. Aber wenn ich an meine Kindheit und Jugend zurückdenke, fällt mir auf, wie viel Optimismus gegenüber neuer Technik in dieser Zeit vorherrschte. Ich erinnere mich daran, wie ich als Kind zum ersten Mal eine Computermaus mit der Hand steuerte und staunte, wie der Zeiger am Bildschirm exakt meinen Handbewegungen folgte. Die ersten 25 Jahre meines Lebens waren geprägt vom Staunen und von Begeisterung über neue Technologie. Hermann Hesse schrieb einst: „Jedem Anfang wohnt ein Zauber inne.“ Und genau so fühlte sich die Digitalisierung für mich an: zauberhaft. Ich war lange vor allem hoffnungsvoll, dass die Vernetzung zu einer aufgeklärteren, wohlhabenderen, gerechteren Gesellschaft beitragen würde. Ich war überzeugt, dass wir Menschen das Internet auf eine Weise nutzen werden, die uns alle bereichert.
Nun ja. Ich schreibe dieses Buch, weil ich mir da nicht mehr so sicher bin. In den vergangenen zehn Jahren haben sich die Warnsignale verstärkt, dass das Internet auch auf eine Weise eingesetzt wird, die für unsere Demokratie und für unsere Gesellschaft Gefahren birgt. In diesem Buch werde ich beschreiben, dass wir Bürger oft nicht genug Wahlmöglichkeit im Netz bekommen – dass uns Geräte oder Onlinedienste ausspionieren, ob wir dies wollen oder nicht. Ich werde kritisieren, dass der immense Reichtum, der im Netz angehäuft wird, vor allem an einzelne Großkonzerne fließt – die noch dazu wenig Steuern zahlen. Und ich werde die Fragen beantworten: In welchen Bereichen lassen sich problematische Facetten der Digitalisierung beobachten – und auch: Was können wir dagegen tun? Denn wir können sehr wohl etwas machen.
Für mich ist dieses Buch auch eine persönliche Geschichte. Denn es reflektiert meine eigene Ernüchterung. Es gab in den vergangenen zehn Jahren immer wieder Situationen, in denen ich dachte: Moment, so hatten wir uns das mit dem Internet doch nicht vorgestellt!
Ein Beispiel: Ich berichte seit etlichen Jahren als Journalistin über Digitales und das Wirken großer Internetkonzerne. Im Jahr 2009 fiel mir auf, wie unkontrolliert Facebooks Einfluss geworden ist. Die Plattform, die Mark Zuckerberg gemeinsam mit Kommilitonen gegründet hatte, konnte man schon damals eine Weltmacht nennen. Sie hatte (für damalige Verhältnisse unglaubliche) 350 Millionen Nutzer und war das global erfolgreichste soziale Medium. 350 Millionen, das sind ungefähr so viele Menschen, wie in Brasilien, Deutschland und Italien leben. Und wir wissen heute, dass Facebook noch um ein Vielfaches wachsen sollte.
Ende 2009 entschied sich Facebook überraschend, die Privatsphäre-Einstellungen für seine Nutzer zu ändern. Der Standardmodus war nun so eingestellt, dass man alle Beiträge öffentlich für alle sichtbar postete – zuvor hatten die User standardmäßig privat gepostet. Es gab heftigen Protest. Die Electronic Frontier Foundation, eine wichtige digitale Bürgerrechtsorganisation, schrieb: „Wir sind besorgt, dass die heutigen Änderungen dazu führen werden, dass Nutzer der Welt mehr von sich mitteilen, als sie das jemals beabsichtigt hatten.“1 Doch Mark Zuckerberg stand zu seinem Schritt. Auf einem Event in San Francisco erklärte er: „Menschen haben sich daran gewöhnt, nicht nur mehr Information auf unterschiedliche Weise zu teilen, sondern das auch offener zu tun und mit mehr Menschen. Diese gesellschaftliche Norm ist einfach etwas, das sich mit der Zeit herausgebildet hat. (…) Und wir haben uns entschieden, dass das jetzt die gesellschaftlichen Normen sind, und haben das umgesetzt.“2
Ich würde behaupten, dass dieses Zitat nicht gut alterte. Mittlerweile erklärt Mark Zuckerberg ja ständig, wie wichtig ihm Privatsphäre sei. Aber dieser Vorfall zeigt: Im Jahr 2009 war es Zuckerberg selbst, der es als neue „gesellschaftliche Norm“ definierte, öffentlich und nicht privat zu posten.
Was mir daran ganz besonders missfiel: Mit nur einem Eingriff in seine Software konnte Mark Zuckerberg für Hunderte Millionen Menschen entscheiden, was ab nun der Standardmodus der Kommunikation war. Zuckerberg musste dafür niemanden um Erlaubnis fragen, er musste keine Abstimmung abhalten, ob er die Standards für alle User ändern dürfe. Er entschied dies einfach. In diesem Moment wurde für mich deutlich, was für eine ungeheure Macht in den Händen einer einzelnen Person und eines einzelnen Unternehmens liegt.
Es gibt ein noch extremeres Beispiel, das dies verdeutlicht: Als 2018 gewaltvolle Übergriffe auf die muslimische Minderheit in Burma stattfanden, war Facebook eine zentrale Plattform, über die Desinformation über Muslime und Gewaltaufrufe verbreitet wurden. Mark Zuckerberg erzählte in einem Interview mit dem Onlinemedium Vox Folgendes: Er sei eines Samstags angerufen und darüber informiert worden, dass über den Facebook-Messenger zu Gewalt in Burma aufgerufen werde. Und dann gab es folgende Regelung: „Wir verhindern, dass diese Meldungen ankommen“, sagte Zuckerberg.3 Das klingt sinnvoll und ehrenwert, dass Facebook Gewaltaufrufe unterband. Aber bedenken Sie, was das heißt: Nicht Staaten, Expertengremien oder Richter entschieden in diesem Fall, welche privaten Nachrichten blockiert werden – diese Entscheidung traf allein Facebook, allen voran Mark Zuckerberg.4 Zur Verdeutlichung: Was Facebook tut, liegt wirklich in der Hand Zuckerbergs. Denn er kontrolliert rund 60 Prozent der Stimmrechte im börsennotierten Konzern.5 Ihn kann niemand feuern.
In diesem Buch wird es um solche Machtfragen gehen. Die Hoffnung in der Anfangsphase des Internets war ja, dass es ein demokratisches Instrument sein wird, von dem möglichst viele profitieren. Nun ist es offensichtlich, dass dieser Anspruch gleich auf mehreren Ebenen nicht erfüllt wurde. Wir leben in einer Zeit, in der der digitale Wohlstand sehr ungleich verteilt ist – das reicht von miserabel bezahlten Jobs, die über Plattformen vermittelt werden, bis hin zur Steuerfrage. Wir leben in einer Zeit, in der Milliardenbeträge mit dem Sammeln und Auswerten von Daten umgesetzt werden, und wir Kunden oftmals nur erahnen können, welche Daten über uns gesammelt werden und was genau mit dieser Information passiert. Für uns als Konsumenten, als Steuerzahler, als Wähler, als arbeitende Bevölkerung gibt es einige unbehagliche Facetten der Digitalisierung. Digitale Konzerne sind besonders geschickt darin, vergleichsweise wenig Steuern in Europa zu zahlen. Steuervermeidung wird zu einem immer größeren Problem: So berechneten Ökonomen, dass der EU jedes Jahr 36 Milliarden Euro an Steuergeldern entgehen – das ist Geld, das wir in Schulen, in das Sozialsystem, in Kinderbetreuung, in Forschungsförderung stecken könnten.6
Wir müssen uns die Frage stellen, ob das Internet in seiner jetzigen Form und mit den aktuell vorherrschenden Geschäftsmodellen genügend für uns alle abwirft. Lassen wir uns bitte nicht von der glänzenden Oberfläche der Geräte und den cool klingenden Wörtern wie „Disruption“, „Gig Economy“ oder „Internet der Dinge“ blenden: Smartphones, Laptops, Apps, Onlineplattformen – all das sind nett wirkende technische Neuerungen, die den Alltag bequemer machen und beeindruckende Funktionen bieten. Nur: Welche gesellschaftlichen Nebeneffekte haben diese Geräte und welche Schattenseiten hat das Geschäftsmodell des Datensammelns? Und: Welche Auswirkungen hat die jetzige Form der Digitalisierung für unser Arbeitsleben, für unser Steuersystem, für unsere Auswahl als Konsument und unsere Autonomie als Bürger?
Ich habe Orte aufgesucht, wo ich nachdenklich gestimmt wurde. Ich bin in einer großen Lagerhalle Amazons gestanden – dort, wo Mitarbeiter im Eiltempo Waren einsortieren und daneben Roboter bereits einen Teil der Jobs übernehmen. Ich habe mit Juristen, Technikern, Forschern, Konsumentenschützern, Bürgerrechtlern und Internetnutzern gesprochen, die das sehr beunruhigt – und die Änderungen für dringend notwendig halten.
Es ist Zeit, kritischer hinter die schöne Oberfläche unserer digitalen Wirtschaft zu blicken. Nehmen Sie das Silicon Valley selbst. Es wird häufig für seine Innovationskraft, für den Erfolg der dort angesiedelten Unternehmen gelobt. Aber es gibt Entwicklungen in dieser Region, die keineswegs beeindruckend sind. Als ich im Herbst 2018 das Silicon Valley besucht habe – unter anderem die Kleinstadt Mountain View, in der Googles Weltzentrale liegt –, fiel mir die hohe Anzahl von Campingwägen und Kleinbussen am Straßenrand auf. Neben dem Eagle Park, einer schönen Grünanlage, parkten etliche dieser Caravans. In diesen Fahrzeugen leben Menschen. Ich sprach mit Martín, einem mexikanischen Einwanderer, der mit seiner Frau in einem Pick-up-Truck inklusive Campinganhänger wohnt. Martín erzählte mir, dass er zwei Jobs hat – einen in einer Cafeteria und einen in einem Fast-Food-Laden. Obwohl er zwei Jobs hat, kann er es sich nicht leisten, eine Wohnung oder auch nur ein Zimmer zu mieten. Denn die Mietpreise sind im Silicon Valley für viele Arbeiter mit niedrigem Einkommen unleistbar geworden. Die immensen Gehälter der Programmierer und Tech-Manager haben die Lebenskosten und die Mietpreise massiv in die Höhe getrieben, aber der Rest der Einkommen ist nicht im gleichen Maße angestiegen. Mountain View ist eine Stadt, in der Reiche mit ihren Teslas durch die Gegend fahren. Und daneben sieht man Menschen in Campingwägen oder in Zelten neben der Autobahnausfahrt – weil sie sich keine Wohnung mehr leisten können.7 Im Silicon Valley wird eines deutlich: Selbst größter Reichtum einzelner Digitalunternehmen sorgt nicht automatisch dafür, dass alle Bürger davon profitieren.
Zu Recht können Sie einwenden: Das Silicon Valley ist nicht repräsentativ für den Rest der Welt. Das stimmt – zum Glück haben wir in vielen europäischen Ländern strengere arbeitsrechtliche Auflagen oder einen besseren Mieterschutz. Aber sehr häufig pilgern europäische Politiker oder Medienmacher ins Silicon Valley, um dort etwas zu lernen und mit nach Hause zu bringen. Ich hoffe, sie schauen sich nicht alles dort ab. Ich zumindest sehe im Silicon Valley nicht nur beeindruckende Digitalriesen, ich sehe viele Aspekte, die wir nicht nach Europa importieren sollten. Im Gegenteil: Gerade Europa, wo die Grundrechte massiv geschützt werden und wo manche Länder auch über einen starken Sozialstaat verfügen, sollte stärkeren Einfluss auf die Digitalisierung nehmen – und nach welchen Idealen diese geformt wird.
Für mich zumindest waren die vergangenen zehn Jahre sehr prägend: Denn ich bin zunehmend auf die Schattenseiten der jetzigen Ausgestaltung der Digitalisierung aufmerksam geworden. Und dieses Buch gibt einen Überblick über jene Bereiche, die mir am meisten Sorge bereiten: Etwa die Tatsache, dass Datensammeln und somit auch das Überwachen von Nutzern zum zentralen Geschäftsmodell des Internets wurden.
Im ersten Teil des Buchs werde ich vor allem diese digitalen Geschäftsmodelle und ihre Intransparenz beschreiben. Anschließend gehe ich auf die ungeheure Marktkonzentration ein, durch die einige wenige Technologiekonzerne große Teile der digitalen Welt beherrschen. Im dritten Teil behandle ich gesellschaftliche Fragen – etwa wie sich die Digitalisierung auf den Arbeitsmarkt oder das Steuersystem auswirkt. Daran anschließend beschreibe ich das Problem, dass der Staat mitunter fragwürdige Kooperationen mit Internetriesen eingeht und manchmal achtlos Bürgerdaten herausrückt. Und zum Schluss bringe ich Lösungsvorschläge – auf zwei Ebenen. Einerseits, wie sich jeder Einzelne wehren kann, wie man selbstbestimmt und aufmüpfig als Konsument auftreten kann und wie wir einen kleinen Beitrag leisten können, digitale Grundrechte zu erobern. Denn jeder Bürger hat durchaus eine gewisse Macht! Und andererseits liefere ich Vorschläge, was wir als Gesellschaft als Ganzes tun können, um unser digitales Schicksal selbst in die Hand zu nehmen.
Es geht mir im Grunde um eine simple Frage: Wer gibt die Regeln in unserer vernetzten Welt vor? Ich bin in einiger Hinsicht besorgt, weil ich glaube, dass uns die Digitalisierung als Gesellschaft ein bisschen entglitten ist. Und trotzdem hege ich Hoffnung: Weil in vielen Bereichen Antworten existieren: Zum Beispiel können wir mit der vollen Härte des Wettbewerbsrechts digitale Riesen in die Schranken weisen – solche Maßnahmen reichen bis zur Zerschlagung von Unternehmen. Ebenso können wir neue Transparenzauflagen als Hilfe für Konsumenten schaffen – ich finde zum Beispiel die Idee interessant, dass Webdienste eine Art Beipackzettel publizieren müssen, wie ihre Software funktioniert und welche Nebeneffekte diese haben kann. Es gibt bereits einige Lösungsansätze. Als Gesellschaft haben wir sehr wohl die Möglichkeit zu definieren, auf welche Weise eine neue Technologie genutzt werden soll. Wir können diesen Prozess formen.
Wir befinden uns nun im Jahr 2019 – 35 Jahre nach der Einführung des Macintosh. 35 Jahre nach meiner Geburt. Die ersten Jahrzehnte meines Lebens waren von der Zuversicht geprägt, dass die Digitalisierung ein zusätzlicher Motor hin zu einer gerechteren, aufgeklärteren Gesellschaft sein würde. Diesen Optimismus habe ich verloren. Ich erkenne: Es ist auch eine andere, eine düstere Variante des Internets möglich. Wir stehen derzeit an einem Scheideweg. Aber wir haben gleichzeitig auch die Chance, das Netz zurückzuerobern, aktiv daran zu arbeiten, dass von der Digitalisierung möglichst viele profitieren. Für uns alle ist das ein persönliches Thema, denn die Digitalisierung geht uns alle an. Und es geht bei diesem Prozess um nichts Geringeres als um die Frage, in welcher Zukunft, in welcher Gesellschaft wir künftig leben möchten.
1. |
ALLES UNTER DER SONNE |
Datenübertragung ist ein unsichtbarer Vorgang. Und unsere Geräte sind leider bisher nicht so programmiert, dass sie uns darüber informieren würden, wie viel Information sie im Hintergrund weiterleiten.
Für dieses Buch habe ich mich gefragt: Wie viel kann ein Unternehmen wie Google in nur einem Tag über einen Konsumenten lernen? Nehmen wir an, Sie würden heute zum ersten Mal ein Smartphone mit Googles Betriebssystem Android aktivieren. Was könnte Google über Sie in einem Tag in Erfahrung bringen? Um das zu testen, habe ich mir ein gebrauchtes Android-Handy besorgt, die Daten darauf gelöscht, das Handy auf die Werkseinstellungen zurückgesetzt und mir eine neue SIM-Karte gekauft. Dann habe ich das Smartphone aktiviert, einen neuen Google-Account angelegt und die Standardeinstellungen des Dienstes akzeptiert.
Einen Tag lang nutzte ich das Handy, fuhr damit durch die Stadt, surfte durchs Netz. Und am Ende des Tages schaute ich auf der Webseite8 von Google nach, welche Werbeinteressen mir der Konzern zuordnete. Binnen eines Tages hatte mir Google 29 Interessen zugeschrieben, mit denen mich Werbekunden ansprechen konnten. Der Suchmaschinenriese ging davon aus, dass ich mich für „Kochen und Rezepte“, „Politik“, „Haustiere“, „Fernsehdramen“, „Flugreisen“, „Reisen“, „Gourmet- und Feinkost“, „Unterhaltungselektronik“, „Elektrozubehör“, „Computerhardware“, „Damenbekleidung“, „Fahrzeugkauf“ interessiere. Das stimmt tatsächlich. In ein paar Fällen lag Google falsch, etwa hielt es mich für einen Fan von „American Football“, aber in der überwiegenden Anzahl der Fälle stufte mich die Software richtig ein.
Wie ist es möglich, dass Google in so kurzer Zeit so viele Schlüsse über mich zieht? Die Antwort ist simpel – viele Smartphone-Nutzer hinterlassen eine beeindruckende Menge an Information im Netz. Wie an vielen anderen Tagen hatte ich auf Google nach Rezepten oder nach Produkten gesucht, konkret wollte ich zum Beispiel „batterien aa kaufen“. Kein Wunder, dass mich der Konzern rasch den Kategorien „Kochen und Rezepte“ oder „Elektrozubehör“ zuordnen konnte. Und häufig teilen Nutzer noch viel intimere Details mit der Suchmaschine: Wir googeln, was man gegen den Ausschlag am Hintern tun kann, einige suchen nach einem Partner oder Seitensprung im Web – und viele Menschen googeln Fragen wie: „Soll ich Schluss machen“ oder „Wie kann ich abnehmen“.
Aber es sind nicht nur die aktiven Anfragen, die wir bewusst eintippen, die einiges über uns aussagen: Es wird standardmäßig auch viel passive Information gespeichert – etwa der exakte Längen- und Breitengrad, an dem sich Ihr Handy befindet. In meinem Test sah ich: Der Standardmodus auf Android-Handys ist, dass solche Ortsdaten eifrig gesammelt werden. Dass Google ein großes Interesse an diesen Daten hat, das zeigt auch eine beeindruckende Untersuchung des amerikanischen Informatikers Douglas C. Schmidt: Er ließ ein Handy mit Googles Betriebssystem im Labor liegen, niemand griff es an, lediglich der Webbrowser Chrome lief im Hintergrund. Dann zeichnete der Forscher die passiven Datenströme auf. Das ist Information, „die im Hintergrund ausgetauscht wird, ohne irgendwelche offensichtlichen Mitteilungen für den Nutzer.“9 Ungefähr neunhundertmal liefen unsichtbare, passive Datenübertragungen an Google ab. Im Schnitt gab das Android-Handy vierzehnmal pro Stunde Google Bescheid, wo es sich gerade befand, also durchschnittlich einmal alle vier Minuten.10
Dieses Experiment verdeutlicht: Datenübertragung ist ein unsichtbarer Vorgang. Und unsere Geräte sind leider bisher auch nicht so programmiert, dass sie uns darüber informieren würden, wie viel Information sie im Hintergrund weiterleiten. Douglas Schmidt zeigte auch noch etwas anderes Interessantes auf: Nicht jeder Typ von Smartphone gibt dermaßen viele Ortsdaten weiter. Schmidt testete ebenfalls das iPhone, das im Schnitt nur ein Mal am Tag seinen Aufenthaltsort an Apple kommunizierte.
Den Kern des Problems stellt somit gar nicht die Technik dar. Es wäre absolut möglich, Geräte oder Software zu entwickeln, die möglichst wenig Daten über uns weitergeben, die diskret und verschwiegen sind. Nur baut das Geschäftsmodell einiger Anbieter genau auf dem Gegenteil auf: Von digitalen Riesen bis zu kleinen App-Entwicklern wird häufig damit Gewinn gemacht, die Welt in Daten umwandeln zu können. Denn solche Information lässt sich einerseits verkaufen – an „Data Broker“. Das sind Unternehmen, deren Geschäftsmodell es ist, riesige Datenbanken über möglichst jeden Konsumenten zu erstellen und Kunden besser durchleuchtbar zu machen. Andererseits machen die großen Plattformen Facebook und Google nicht ihren Profit damit, die gesammelte Information zu verkaufen – sondern sie horten diese wie einen Schatz und nutzen sie für präzisere Onlinewerbung oder die Entwicklung neuer Dienste. Die verschiedenen Geschäftsideen haben eines gemeinsam: Um zunehmend Geld damit zu machen, müssen auch wir Menschen zunehmend digital erfasst werden.
Dass „alle möglichen Dinge unter der Sonne“ in Daten umgewandelt werden, nennt man „Datafication“. Geprägt haben den Begriff der Rechtswissenschaftler Viktor Mayer-Schönberger und der Journalist Kenneth Cukier.11
In vielerlei Hinsicht bietet Datafication beeindruckende Möglichkeiten: In immer mehr Geräte werden Sensoren und auch Kameras eingebaut, die uns zum Beispiel helfen, technische Probleme frühzeitig zu erkennen. In der Nähe von München entwickelt Siemens Züge, die mit mehr als 260 Sensoren ausgestattet sind. Diese Sensoren messen Temperatur, Geschwindigkeit, Druck, Bremsverhalten in wichtigen Teilen der Lokomotive. Das Ziel ist, mit den Daten vorherzusagen, wann Reparaturen notwendig sind.12 Es geht also darum, den Ausfall eines Maschinenteils zu erkennen, noch bevor es kaputt wird. Als „Predictive Maintenance“, vorausschauende Wartung, bezeichnen Techniker so etwas.
Wichtig sind für solche Analysen nicht nur Daten, sondern auch Algorithmen, die Rückschlüsse daraus ziehen. Kurz zur Erklärung: Ein Algorithmus ist eine Handlungsanleitung zur Lösung eines Problems. Mathematiker lösen seit Jahrhunderten mit Algorithmen Rechenaufgaben – indem sie Schritt für Schritt die Lösungsmethode befolgen. Für uns jedoch ist die moderne Form von Algorithmen interessant: jene in der Informatik. Wenn ein Computer ein Problem lösen soll, tut er dies über einen Algorithmus. Wenn man auf dem eigenen Computer nach der Datei „Katzenfot0003.jpg“ sucht, kommt dabei ein Suchalgorithmus zur Anwendung. Dieser geht Dateiname für Dateiname durch und überprüft, ob einer davon mit dem Suchbegriff übereinstimmt. In den vergangenen Jahrzehnten wurden zunehmend komplexere Algorithmen entwickelt, die aus riesigen Datenmengen sogar selbst lernen können. Wenn in Medien oder der Politik vom Feld der „künstlichen Intelligenz“ die Rede ist, dann sind derartige Algorithmen gemeint. Bisher ist die künstliche Intelligenz weit von der menschlichen Intelligenz entfernt, kein Computer kann derzeit die Welt so eingehend erfassen wie ein Mensch. Aber moderne Software ist immerhin in dem Sinne intelligent, als dass sie zum Beispiel Gegenstände auf Bildern erkennen kann oder es vermag, Gesichter zu identifizieren.
Diese Mischung aus Datenmacht und potenter Software ermöglicht neue Geschäftsfelder. Massiv in dieses Feld der künstlichen Intelligenz investieren digitale Riesen wie Apple, Google, Amazon, Facebook, natürlich auch Microsoft.13 Es gibt die Auffassung, dass dies für uns Konsumenten keine gute Entwicklung ist – denn wir sind häufig nur ein passiver Teil des Geschäftsmodells. In vielen Fällen bedeutet Datafication, dass der Mensch in all seinen Facetten zur Datenressource wird. Längst werden nicht nur Züge vermessen, sondern auch wir selbst, wo wir uns mit dem Smartphone in der Tasche hinbegeben oder was wir im Netz anklicken.
Die emeritierte Harvard-Professorin Shoshana Zuboff bezeichnet diese Entwicklungen als „das Zeitalter des Überwachungskapitalismus“. Sie hat dazu ihr gleichnamiges Buch verfasst und beschreibt darin, wie menschliche Erfahrung zu einem Rohstoff wurde. Ähnlich wie Rohstoffe aus der Natur wird heute menschliches Verhalten als neue Ressource erfasst und gewinnbringend verwertet. In vielen Fällen werden die „Verhaltensdaten“ von Menschen genutzt, also welche Links man angeklickt oder welche Produkte man in seinen virtuellen Warenkorb gelegt hat. Solche Daten werden ausgewertet, um vorherzusagen, worauf man in Zukunft klicken oder welche Waren man kaufen wird. Derartige Vorhersagen dienen dazu, Menschen beispielsweise vor allem jene Werbung einzublenden, die mit höherer Wahrscheinlichkeit zum Verkaufsabschluss führt.14 Zuboff meint, das Problem sei nicht die Technik, sondern dass Technik zum jetzigen Zeitpunkt vor allem dafür eingesetzt wird, Menschen auszuspionieren und die daraus gewonnenen Erkenntnisse in ökonomisch verwertbare Geschäftsmodelle umzumünzen. Sie schreibt: „Der Überwachungskapitalismus ist kein Unfall übereifriger Technologen, sondern ein aus dem Ruder gelaufener Kapitalismus (…)“.15
Das Problem ist also nicht das Internet an sich, sondern dass die treibenden Kräfte der Digitalisierung oftmals Konzerne sind, die genau mit diesem Geschäftsmodell des Überwachungskapitalismus arbeiten.
Es ist wichtig zu verstehen, wie umfassend die Datenauswertung heutzutage geworden ist – wie viel zusätzlicher Nutzen aus harmlos wirkenden Klicks gezogen wird. Ich finde das Beispiel der CAPTCHAs faszinierend. Das sind diese Aufgaben im Internet, mit denen man belegen muss, dass man ein Mensch (und kein Spam-Account) ist. Seit einiger Zeit blendet einem der Google-Dienst reCAPTCHA dafür Bilder ein: Man sieht eine Reihe von Fotos und muss jene identifizieren, auf denen ein Bus oder ein Straßenschild abgebildet sind. Dieser Test dient der Sicherheit, so erkennt die Maschine, dass ein Mensch an der Tastatur oder dem Smartphone sitzt. Gleichzeitig werden diese Klicks von Google aber auch ausgewertet. Auf einer Webseite für Programmierer schreibt das Unternehmen: „Hunderte Millionen von CAPTCHAs werden jeden Tag von Menschen ausgefüllt. reCAPTCHA zieht einen positiven Nutzen aus diesem menschlichen Einsatz (…)“.16 Konkret sammelt Google die Information, auf welchen Bildern Straßenschilder oder Busse zu sehen sind, um damit die eigene Software zu trainieren. Das bedeutet also: Jedes Mal, wenn Sie eines dieser Bildrätsel ausfüllen, helfen Sie Googles Software, klüger zu werden.
Zwei Dinge erscheinen mir daran bemerkenswert. Erstens: Der Überwachungskapitalismus ist doch sehr komplex – uns ist womöglich gar nicht in allen Situationen bewusst, woraus ein Internetriese wie Google einen Mehrwert ziehen kann. Zweitens: Man kann durchaus sagen, wir arbeiten mit unseren Klicks gratis für Google. Aus Sicht dieses Konzerns ist es clever, wie aus einer Sicherheitsfunktion ein Zusatznutzen gezogen wird. Nur deutet das auf eines hin: Dienste wie Google sind nicht wirklich gratis. Sie argumentieren gern, dass sie „kostenfrei“ für Konsumenten wären. Okay, es fließt kein Geld. Aber es fließen sehr viele Daten. Wir müssen Werbung ansehen oder wir müssen Straßenschilder identifizieren, um manche Funktionen nutzen zu können. Wir zahlen also nicht mit Geld, sondern mit Aufmerksamkeit, mit Daten oder mit unserem Wissen. Ich würde das eher als Tauschhandel denn als Gratisangebot beschreiben.
Auch der Skandal um Cambridge Analytica lässt sich als Nebeneffekt des Überwachungskapitalismus einstufen: Wir wissen heute, dass das britische Beratungsunternehmen Cambridge Analytica Facebook-Information von Millionen von Nutzern weltweit abzapfte. Das Ziel war anscheinend, diese Verhaltensdaten zu nutzen, um die Einstellungen und psychologischen Eigenheiten von Menschen auszuwerten. So warb Cambridge Analytica damit, die Persönlichkeitsstruktur von Menschen basierend auf Likes erkennen zu können – etwa daraus schließen zu können, ob ein Mensch eher extrovertiert, aufgeschlossen, pflichtbewusst oder neurotisch ist. Derartige Dienste konnten auch politische Parteien und Privatunternehmen in Anspruch nehmen, um Wähler mit Themen und in einer Tonalität anzusprechen, die zu ihrer Persönlichkeit passen. Der berühmteste Kunde von Cambridge Analytica heißt Donald Trump. Das Unternehmen unterstützte ihn im Präsidentschaftswahlkampf 2016. Es ist durchaus umstritten, ob Cambridge Analytica wirklich so tief in die Seele von Menschen hineinblicken kann. Aber zumindest sieht man hier, dass es Versuche gibt, Wähler basierend auf ihren Klicks einzuordnen.
Noch problematischer war, wie Cambridge Analytica zu diesen Daten kam: Es nutzte eine unbedenklich wirkende App auf Facebook. Konkret war die App ein harmlos scheinender Persönlichkeitstest, den Menschen ausfüllen konnten. Was nicht dazugesagt wurde: Die Daten wurden auch für politische Zwecke eingesetzt. Zu dieser Zeit waren die technischen Vorgaben auf Facebook lax: Die App konnte nicht nur Informationen über ihre Nutzer absaugen, sondern auch über all deren Facebook-Freunde. Bis zu 87 Millionen Menschen weltweit sind womöglich von diesem Datenmissbrauch betroffen, gab Facebook 2018 bekannt.17 Das Unternehmen betont, dass diese App gegen die Regeln der Plattform verstieß – und dass die technischen Rahmenbedingungen bereits geändert wurden. Nur ist eines wichtig: Ohne Facebooks technische Infrastruktur und die laxen Regelungen wäre Cambridge Analytica nicht an all diese Daten herangekommen. Ohne Facebooks Datenmacht wäre ein solcher Vorfall nicht möglich gewesen. Cambridge Analytica führt vor: Es wirkt oft harmlos, wenn wir bei Seiten auf „Gefällt mir“ klicken oder andere Spuren im Web hinterlassen – nur können wir nicht abschätzen, welche Nebeneffekte diese Handlungen haben, etwa ob die daraus gewonnenen Einblicke für politische Wahlkämpfe genutzt werden.
Dass solche Datenskandale auffliegen, dass immer kritischer über die Geschäftspraktiken im Netz berichtet wird, stellt ein Imageproblem für die großen Digitalkonzerne dar. Unternehmen wie Facebook oder Google betonen nun, dass sie zunehmend auf „Privatsphäre“ setzen, dass sie Apps von Drittanbietern strenger behandeln und Nutzern mehr Möglichkeiten bieten, das Sammeln mancher Daten zu deaktivieren. Das stimmt, die vergangenen Jahre brachten manche Änderungen. Doch eines blieb gleich: das Geschäftsmodell von Google und Facebook. Zwar sprechen diese Unternehmen zunehmend von „privacy“, sie bringen aber zeitgleich eine Reihe neuer Produkte heraus, die Menschen in ihren eigenen vier Wänden digital erfassen. Google bietet nicht nur smarte Lautsprecher namens „Google Home“ an, die permanent darauf warten, dass man mit ihnen redet. In der Produktreihe „Nest“ liefert es außerdem Geräte wie Überwachungskameras, Thermometer, Rauchmelder, Alarmsysteme und ein smartes Display mit Gesichtserkennungsfunktion – die miteinander kommunizieren können. Das ist schon recht interessant: Google betont, es setze auf „Privatsphäre“ – nur gemeint ist offensichtlich nicht, dass wir Nutzer aufhören sollen, uns digital erfassen zu lassen. Gemeint ist wohl eher, dass wir einzelne Nachjustierungen beim Datensammeln machen dürfen. Eine wirkliche Kursumkehr lässt sich bisher nicht beobachten. Im Gegenteil: Wir müssen eher damit rechnen, dass das Feld des Überwachungskapitalismus wächst.
Nicht nur die digitalen Riesen unserer Zeit sind an dieser Entwicklung interessiert. Auch andere, einst ganz undigitale Marken wollen in diesem Geschäftsfeld Fuß fassen: Wenn Sie Carsharing nutzen, sollten Sie davon ausgehen, dass Ihr Fahrverhalten überwacht wird. Drive Now, das zu BMW gehört, räumt sich in seinen Geschäftsbedingungen, die Erlaubnis ein „Daten zur Beschleunigung“, „Daten zum Fahrmodus“, „Daten zu den Bremsvorgängen“ und einigem mehr zu sammeln.18 Autos sind nur einer von unzähligen Gegenständen, in die Sensoren, Kameras, GPS-Tracker und eine Internetverbindung eingebaut werden. Diese Entwicklung wird als „Internet of things“, als Internet der Dinge, bezeichnet. Indem diese Geräte ständig Information an ihre Hersteller kommunizieren, steigt natürlich die Anzahl der ökonomisch verwertbaren Daten.
Der nächste Schritt ist, dass nicht nur einzelne Geräte, die wir selbst gekauft haben, über uns Daten erfassen. Der nächste Schritt ist, dass im öffentlichen Raum Sensoren und Kameras eingebaut werden. Zunehmend wollen Metropolen zur „Smart City“ werden, von Wien über Barcelona bis nach Singapur. Manche Möglichkeiten einer vernetzten Stadt sind toll: Wenn Sensoren in Echtzeit den Straßenverkehr messen und Software mithilfe dieser Daten die Ampelschaltung kontrolliert, kann dies dazu führen, dass es weniger Stau und weniger Abgase gibt. Auch können zum Beispiel Sensoren in Abfalleimern melden, wann die Müllabfuhr wieder ausrücken sollte. Solche Technologie kann zum Wohle der Bevölkerung eingesetzt werden, nur wirft sie zugleich schwerwiegende Fragen auf: Wer kontrolliert all die Daten, die dabei gesammelt werden? Und wie stellen wir sicher, dass diese nicht missbraucht werden? Hier geht es auch um das Grundrecht auf Privatsphäre: In einer Stadt voller Sensoren und Kameras kann sich der Einzelne nicht mehr aussuchen, ob er erfasst wird. Selbst wer noch immer Smartphones verweigert, wird in einer vernetzten Stadt digital greifbar. Umso wichtiger werden Sicherheitsstandards und eine möglichst starke Anonymisierung der Bewegung im öffentlichen Raum.
Tatsächlich gibt es schon sehr weitreichende Pläne einer smarten Stadt: Toronto plant ein eigenes Viertel, das von vornherein digital gestaltet ist. Nach bisherigem Stand soll das Unternehmen Sidewalk Labs diesen Stadtteil errichten. Sie haben es vielleicht geahnt: Sidewalk Labs gehört zu Alphabet, Googles Mutterkonzern. Das Unternehmen beabsichtigt, dass es zusätzlich zur physischen Ebene der Stadt eine „digitale Ebene“ geben soll, die quasi das Geschehen in dem Stadtteil digital erfasst.19 Das Ganze ist noch äußerst vage – aber es trifft bereits auf heftigen Widerstand einiger Bürger.20 Auch gab es ein paar Eklats. Im Herbst 2018 trat beispielsweise die Datenschutzexpertin Ann Cavoukian von ihrer Zusammenarbeit mit Sidewalk Labs zurück. Ihr war plötzlich nicht mehr garantiert worden, dass wirklich alle Aufzeichnungen im öffentlichen Raum von Beginn an komplett anonymisiert werden.21 Sie sagte zu mir, sie sei weiterhin optimistisch, was diesen Stadtteil betrifft. Auch hält sie es für unausweichlich, dass im öffentlichen Raum Daten gesammelt werden. Die Frage sei jedoch, wie das ganz konkret abläuft. Cavoukian sagt: „Wir müssen aufpassen, dass wir keine Smart Citys der Überwachung, sondern Smart Citys der Privatsphäre bauen.“
Es mag sich manchmal so anfühlen, als würde ohnehin schon alles digital erfasst. Ich selbst fand es auch recht beeindruckend, wie viele Rückschlüsse Google in nur einem Tag Handykonsum über mich ziehen konnte. Doch Sie können mir glauben: Wir sind erst ganz am Beginn dieser Entwicklung. In den nächsten Jahren wird noch weit mehr digitalisiert – und tatsächlich alles Mögliche unter der Sonne in Daten umgemünzt werden. Aber je mehr solche Einblicke sogar in unseren Alltag getätigt werden, desto hartnäckiger müssen wir die Machtfrage stellen: Wer profitiert von dieser neuen Logik des Informationsanhäufens? Sind es wir, die Bürger, oder einzelne Unternehmen, konkret: die Überwachungskapitalisten? Und wir müssen dringend die Frage klären: Gibt es eigentlich Orte oder Tätigkeiten, wo wir Bürger definitiv nicht wollen, dass diese als Daten erfasst und ausgewertet werden? Wir müssen also schon darüber sprechen, ob es Grenzen gibt, hinter denen wir die Datafizierung nicht erlauben.
2. |
WAS WIR ÜBER UNSERE GERÄTE NICHT WISSEN |
Im Internet ist eine Informationsasymmetrie zu beobachten: Etliche Anbieter sammeln sehr viel Information über uns, aber wir wissen nur sehr wenig darüber, wofür sie diese genau einsetzen.
Wenn ich Vorträge halte oder an Diskussionsrunden teilnehme, wird mir häufig eine Frage gestellt: Stimmt es, dass Facebook beim Smartphone mitlauscht und diese Information für Werbung verwendet? Das Unternehmen selbst streitet dies ab. „Facebook hört nicht mit“, sagt auch eine Sprecherin auf meine Anfrage. Aber diese These kursiert trotz der Dementi – und zwar weltweit. Ständig erzählen mir Menschen dazu passende Anekdoten wie: Sie hätten zum Partner gesagt, sie sollten am Wochenende wandern gehen, und kurz darauf zeigte ihnen Facebook Werbung für Wanderschuhe an. Wie kann das sein?
Weil sich dieses Gerücht so unbeirrt hält, haben Forscher das untersucht. Wissenschaftler der Northeastern University haben in aufwendigen Experimenten 17 000 Apps auf dem Betriebssystem Android analysiert, darunter auch die Apps von Facebook. Sie konnten keine Anzeichen dafür finden, dass das Unternehmen mitlauscht. „Unser Eindruck war eher, dass Facebook ohnehin schon so viele andere Daten hat, dass sie gar nicht mehr das Mikrofon benötigen. Facebook weiß in vielen Fällen, welche Webseiten Menschen aufgerufen haben, was sie auf der Plattform angeklickt haben oder was Menschen mit ähnlichem Nutzungsverhalten angeklickt haben“, sagt die IT-Sicherheitsexpertin Martina Lindorfer, eine der Forscherinnen des Projekts und mittlerweile Informatikprofessorin an der Technischen Universität Wien. Wenn man das Gefühl hat, dass Facebook überraschend viel über einen weiß, muss das nicht unbedingt daran liegen, dass das Unternehmen heimlich mithört.
Jedoch fiel den Forschern etwas anderes Unbehagliches auf – das nicht Facebook, sondern andere Apps betrifft: Diese filmten unbemerkt mit oder fertigten Screenshots davon an, wie der User die App bediente. Es scheint, dass solche Daten häufig zur Nutzungsanalyse von Apps eingesetzt werden.22 „Jedoch ist für den Nutzer gar nicht ersichtlich, dass sein Verhalten gerade aufgezeichnet wird. Es können unbewusst sehr sensible Informationen erfasst werden, etwa wenn man ein Passwort eintippt oder eine persönliche Nachricht formuliert und diese wieder löscht“, sagt Martina Lindorfer. Das deutet auf ein tieferliegendes Problem hin. Unsere Geräte sind nicht so designt, dass sie uns darüber informieren, was einzelne Apps im Hintergrund genau tun.