Total berechenbar?

Für Oliver und Lukas

Einleitung
Das Zeitalter der Algorithmen

Ich hatte kürzlich Geburtstag. Wer bei Facebook, dem sozialen Netzwerk, eingeschrieben ist, der weiß, was an diesem Tag passiert: Meine »Freunde«, also die Menschen, mit denen ich mich auf Facebook verbunden habe, bekommen an diesem Tag einen Hinweis. Dann können sie in meine »Chronik« einen Gruß hineinschreiben. Die meisten beschränken sich auf ein »Happy Birthday«, manche garnieren ihre Gratulation mit einem der vielen Emojis, die Facebook für solche Zwecke anbietet. Der Beglückwünschte freut sich, dass über 100 Menschen an diesem Tag an ihn denken. Er klickt bei jedem der Glückwünsche auf den »Gefällt mir«-Button. Am nächsten Tag, also nach 24 Uhr, so verlangt es die Etikette, postet er selbst einen Beitrag, in dem er sich für die vielen Glückwünsche bedankt und beteuert, dass er einen wundervollen Tag verbracht hat. Das lesen dann wiederum viele Freunde, die am Tag vorher den Anlass übersehen hatten, gratulieren nachträglich, und das Geburtstagskind freut sich noch einmal.

Im Ernst? Ist das das Niveau, auf dem wir heute unsere persönlichen Beziehungen pflegen? Gesteuert von einem Algorithmus, der dafür sorgt, dass wir keinen Jubeltag mehr vergessen? Haben wir die Verantwortung für unser soziales Leben dem Computer übergeben und klicken nur noch reflexhaft auf die Schaltflächen, die er uns anbietet? Babybild posten, Babybild liken, ach wie knuddelig, Smiley!

Man muss nicht gleich den Untergang des Abendlandes befürchten angesichts dieser neuen Rituale, die wir im Zeitalter der digitalen Vernetzung pflegen. Schließlich sind die Rituale der alten analogen Welt, mit Abstand betrachtet, nicht weniger absurd und manchmal sogar geradezu lächerlich. Und ich muss zugeben, dass ich mich tatsächlich über viele der Glückwünsche gefreut habe. Aber wir können es nicht abstreiten: Algorithmen haben unser Leben im Griff, und nicht alle Beispiele sind so harmlos wie dieses. Algorithmen suchen für uns nach Informationen, zeigen uns den Weg von A nach B. Sie beeinflussen, welches Buch wir lesen und welchen Film wir schauen. Sie beurteilen unsere Kreditwürdigkeit und haben zunehmend Einfluss darauf, welcher Bewerber eine begehrte Stelle bekommt. Sogar unsere Liebes- und Lebenspartner können wir uns per Algorithmus vermitteln lassen.

»Die Algorithmen« für allerlei Übel in der Welt verantwortlich zu machen, ist eine deutsche Spezialität. Wir beschuldigen nicht die Computer und deren Programme oder die Technik allgemein – nein, die Algorithmen sind uns unheimlich. In anderen Ländern hat das Wort längst nicht so eine Brisanz. In den USA habe ich im Supermarkt sogar einen Wein namens »Algorithm« gefunden, der in Deutschland wahrscheinlich im Regal verstauben würde. Schuld am schlechten Image der Algorithmen ist wohl hauptsächlich der 2014 verstorbene Herausgeber der Frankfurter Allgemeinen Zeitung Frank Schirrmacher. In seinen Büchern Payback und Ego machte er die Rechenregeln verantwortlich für die Endsolidarisierung der Gesellschaft und letztlich den Siegeszug des digitalen Kapitalismus.

Natürlich hat Schirrmacher den Gegner nicht zufällig gewählt. Hätte er sich den Computer vorgenommen, hätte man bei diesem noch an ein Werkzeug denken können, das man so oder so benutzen kann, zu guten oder schlechten Zwecken – wie etwa einen Hammer. Der Algorithmus dagegen ist für ihn mehr als ein reines Werkzeug – er ist ein logisches Prinzip, das unser Denken infiziert und schleichend unsere Zivilisation verändert. Wir setzen nicht nur den Computer für Berechnungen ein, wir halten alles für berechenbar. Und machen uns selbst berechenbar.

Was ein Algorithmus eigentlich ist, erklärt Schirrmacher nur unzureichend, und viele von denen, die das Wort heute im Mund führen, werden um eine Definition verlegen sein. Der Zweck dieses Buchs ist es, die Diskussion über die Macht der Algorithmen zu erden. Ich versuche, einige der wichtigsten Algorithmen zu erklären, die heute unser Leben beeinflussen. Dabei hoffe ich auf zwei Effekte beim Leser: Erstens möchte ich die Rechenverfahren ein wenig entmystifizieren. Wenn es heißt, dass der Algorithmus einer Supermarktkette herausfinden kann, ob eine Kundin schwanger ist (siehe Seite 137), dann klingt das zunächst nach Spionage in den intimsten Bereichen. Bei näherem Hinsehen entpuppt sich das Verfahren aber als eine simple Analyse der Einkaufshistorie der Kundin, die Alarm schlägt, wenn diese eine Reihe von bestimmten Produkten gekauft hat.

Ich hoffe aber auch, dass ich beim Leser ein wenig Bewunderung wecken kann für die teilweise genialen Ideen, die in Algorithmen stecken. Es geht bei der Entwicklung der Rechenverfahren ja nicht nur darum, ein Problem überhaupt zu lösen, sondern auf möglichst schlanke und elegante Weise. Wir erwarten, dass unser Navigationsgerät eine Route zwischen zwei Städten in ein paar Sekunden berechnet, sonst ist es nutzlos. Und selbst Aufgaben, die wir banal finden, etwa eine Liste alphabetisch zu sortieren, kann ein Computer elegant oder weniger elegant bewältigen. Allein für den Sortier-Job gibt es mindestens 15 trickreiche Algorithmen (siehe Seite 42).

Wenn man sich konkret mit Algorithmen beschäftigt, wird aber auch deutlich: Sie »denken« anders als wir. Ihre Stärke ist es, viele simple Rechenschritte in kürzester Zeit durchzuführen. Sie brauchen exakte Eingaben, und sie bestehen aus sehr konkreten kleinen Schritten, die einer nach dem anderen abgearbeitet werden. Ein Schachcomputer spielt anders als ein menschlicher Schachspieler. Er berechnet bis zu einem gewissen Horizont alle möglichen Spielzüge, bewertet sie kühl und sucht sich dann den besten aus. Das können Menschen nur bis zu einem gewissen Grad, sie verlassen sich viel mehr auf ihre Intuition und ziehen dann den Turm von h1 nach e1, weil es sich richtig anfühlt. Man kann Gefühle als eine geniale »Abkürzung« des Denkens ansehen: Wer aus dem Bauch heraus entscheidet, der schont den Kopf, entlastet sein Gehirn von der Aufgabe, jede Situation neu bis ins Letzte zu durchdenken. Er lässt sich buchstäblich von »Vor-Urteilen« leiten, die ihre Wurzel in seinen Erfahrungen haben. Man nennt solche intuitiven Denk-Abkürzungen auch »Heuristiken«.

Was ist die bessere Alternative? Das kann man nicht pauschal beantworten. Nehmen wir das Beispiel der Bewerberauswahl für eine zu besetzende Stelle: Viele Chefs werden sich ihres Bauchgefühls rühmen, das ihnen sagt, ob ein Bewerber auf die Stelle »passt«. Gut möglich, dass dahinter lediglich ein vorurteilsbehaftetes Schubladendenken steckt, das einsetzt, wenn ein dicker, schwarzer oder weiblicher Bewerber den Raum betritt. Es gibt gute Argumente dafür, Bewerbungsverfahren so lange wie möglich anonym durchzuführen – und auch dafür, zumindest eine gewisse Vorauswahl einem Algorithmus zu überlassen, der nur auf die objektiven Qualifikationen der Bewerber schaut.

Das heißt nicht, dass Algorithmen keine Vorurteile hätten und nicht diskriminierend wirken. Bekannt ist das Beispiel von Googles »Autocomplete«-Funktion, die einem schon während der Eingabe von Suchbegriffen Vorschläge macht. So ergänzte die Suchmaschine bei der Eingabe von »Bettina Wulff« ehrabschneidende Begriffe. Das lag natürlich daran, dass über die damalige Präsidentengattin die wildesten Gerüchte im Netz kursierten – und die »objektive« Suchmaschine gab sie blind wieder. Kurz bevor die Sache vor Gericht kam, änderte Google die Funktion, jetzt ist es möglich, rufschädigende Ergänzungen zu unterdrücken. Das geschieht aber nur, weil hier Menschen in den Algorithmus eingreifen. Lässt man ihm freien Lauf, so hat er immer noch einen hohen Unterhaltungswert: Gibt man »Angela Merkel …« ein, so steht an oberster Stelle die Ergänzung »Jüdin«, auf »Darf man …« ergänzt Google »… sein Kind Adolf nennen«.

Noch ein Google-Beispiel: Geben Sie einmal in die Bildersuche »CEO« ein, das Kürzel für den Vorstandschef einer Firma, das auch bei uns zunehmend verwendet wird. Als ich das getan habe, zeigten die ersten 49 Bilder Männer. Das 50. war eine Fotografie der »CEO Barbie«, einem Sondermodell der Anziehpuppe. Auf Platz 67 schließlich die erste richtige Frau, Angela Ahrendts, Ex-Chefin der Modemarke Burberry. Auf Platz 99 ein Foto der Yahoo!-Managerin Marissa Meyer, es begleitete die Meldung, dass sie 2012 einen gesunden Jungen zur Welt gebracht hatte. Die nächste Frau stand schließlich auf Platz 143: Ursula Burns von Xerox, gleichzeitig die erste Schwarze.

Dahinter steckt keine böse Absicht – der Algorithmus (siehe Kapitel 2) gibt letztlich das wieder, was die Nutzer ins Netz stellen beziehungsweise worauf sie klicken. Er zeigt uns den Status quo – und zementiert ihn damit gleichzeitig. In automatisch generierten Stellenanzeigen, die einem auf manchen Websites begegnen, zeigte Google Männern höher dotierte Jobs als Frauen. Das ist ebenso wie das Ergebnis der Bildersuche eine logische Folge der Tatsache, dass Männer in den Chefetagen überrepräsentiert sind. Logisch im Sinne des Programms, das diese Anzeigen auswählt.

Algorithmen müssen diskriminieren, denn das ist ihr Zweck. Wenn ich ein Programm schreibe, das die Kreditwürdigkeit von Menschen beurteilen soll, dann muss ich manche Menschen gegenüber anderen bevorzugen. Welche Kriterien sollen dabei erlaubt sein? Rein statistisch kann kein Zweifel daran bestehen, dass bei Bewohnern eines Stadtteils, in dem vorwiegend biedere Eigenheime stehen, die Chance größer ist, dass sie brav ihre Monatsraten zahlen, als wenn der Kreditnehmer in einem heruntergekommenen Viertel wohnt. Aber es wäre unfair dem Einzelnen gegenüber, dieses Kriterium bei der Kreditvergabe heranzuziehen, weil es nicht direkt mit seiner Zahlungsmoral zusammenhängt. Deshalb wird es den Banken gesetzlich verboten. In anderen Bereichen, etwa beim Marketing, werden täglich bloß aufgrund ihrer Wohnadresse Urteile über Menschen gefällt, ob das fair ist oder nicht. Zum Beispiel gibt es Web-Shops, die nach der Postleitzahl beurteilen, ob sie ihrem Kunden eine Zahlung per Rechnung einräumen oder nicht.

Weil Algorithmen nach mathematischen Prinzipien arbeiten und auf denselben Input hin immer denselben Output produzieren, ist es leicht, sie als »objektiv«, als unbestechlich hinzustellen. Aber auch wenn ihre Berechnungen unpersönlich und kühl sein mögen – über sie hat immer ein Mensch entschieden. Sei es der Programmierer oder sein Auftraggeber. Wenn Facebook behauptet, der Algorithmus bringe uns immer nur die Nachrichten, die wir doch am liebsten sehen wollen, dann ist das natürlich Unsinn – dauernd schraubt der Konzern an den Reglern, die unterschiedliche Arten von Nachrichten in den Strom spülen, genauso wie Google die Kriterien für das Ranking seiner Suchergebnisse modifiziert. Für diese Kriterien kann man die Firmen kritisieren. Detailliertere Kritik könnte man üben, wenn man den Algorithmus kennen würde. Der aber ist ein Firmengeheimnis.

Die Firma Uber hat sich aufgemacht, das etablierte Taxisystem zu »disrupten«, wie man auf Silicon-Valley-Denglisch sagt. Ein hoch reguliertes System, das bei Anbietern und Kunden zu viel Frust führt, soll ersetzt werden durch einen freien Markt, bei dem das Angebot und auch der Preis durch die Nachfrage bestimmt werden. Die Uber-Tarife sind nicht konstant, sondern fluktuieren gewaltig – als im Dezember 2013 in New York ein Schneesturm tobte, mussten die Kunden plötzlich fast achtmal so viel bezahlen wie sonst. Surge pricing nennt Uber das. »Uber bestimmt nicht den Preis«, sagte der von vielen gehasste Uber-Chef Travis Kalanick 2013 dem Magazin Wired, »der Markt bestimmt den Preis. Wir haben Algorithmen, die herausfinden, was der Markt ist.«

Aber Uber ist keine gemeinnützige Mitfahrzentrale aus den 1980er-Jahren. Und seine Algorithmen reflektieren nicht nur den Markt, sondern sie greifen kräftig in diesen ein. Weder für den Anbieter, also den selbständigen Fahrer, noch für den Kunden ist die momentane Lage wirklich transparent. Öffnet der Kunde auf seinem Handy die App, sieht er auf dem Stadtplan rings um seinen Standort kleine Autos herumfahren. Aber das sind keine tatsächlichen Uber-Autos, die Firma hat zugegeben, dass es sich um eine symbolische Darstellung handelt: Denn wären auf der Karte keine Autos zu sehen, würde der Kunde vielleicht ein anderes Transportmittel wählen.

In der App für die Fahrer wiederum werden auf der Karte farblich bestimmte Viertel hervorgehoben, in denen viele Kunden auf ein Taxi warten. Aber auch das ist nicht ein Abbild der tatsächlichen Nachfrage, sondern die Prognose des Algorithmus. Im besten Fall sorgt eine gute Prognose dafür, dass die Fahrer schon da sind, wenn die Nachfrage entsteht, etwa nach einem Konzert. Bei einer Fehlprognose irren die Fahrer auf der Suche nach Kundschaft durch die Straßen. Auf jeden Fall handelt es sich hier nicht um einen für Anbieter und Kunden transparenten Markt, sondern um die Illusion eines Marktes, die von Uber gemanagt wird.

»Sowohl Gesetze wie Algorithmen werden von Menschen geschrieben«, schrieb Andrian Kreye 2014 in der Süddeutschen Zeitung. »Der Unterschied liegt darin, dass die Gesetze der kollektive Ausdruck einer Gesellschaft sind. Soziale Veränderungen und vor allem Werte formen Gesetze. Algorithmen aber werden von Ingenieuren geschrieben. Die sind keine Vertreter der Gesellschaft, sondern handeln im Dienst eines Instituts, einer Firma, eines Geheimdienstes oder auch nur für sich selbst.« Die Gesellschaft täte also gut daran, über Algorithmen nachzudenken. Das kann man auch, ohne Programmierer zu sein. Sogar wenn der Quellcode des Algorithmus nicht bekannt ist: Selbst eine »Blackbox« kann man testen, indem man untersucht, wie sie auf unterschiedliche Eingaben reagiert. Algorithmic accountability nennt das der Medienwissenschaftler Nicholas Diakopoulos (siehe Seite 254).

Solche Initiativen, die versuchen, ein Bewusstsein für Algorithmen zu schaffen, erscheinen mir mehr zu versprechen als die Forderung nach staatlicher Aufsicht, nach einem »TÜV für Algorithmen«, wie ihn die Schriftstellerin Juli Zeh in der Zeit forderte. Auch die Forderung mancher EU-Politiker an Google, seine Algorithmen offenzulegen, ist nicht nur unrealistisch, sondern auch unfair – keine Firma sollte gezwungen werden, ihr Tafelsilber öffentlich zu verschenken. Je mehr »Algorithmisten« es aber in der Gesellschaft gibt (ein Ausdruck, den der Big-Data-Spezialist Viktor Mayer-Schönberger geprägt hat), also Experten, die Algorithmen analysieren, testen und beurteilen können, umso mehr wird auch die Öffentlichkeit die Algorithmen hinterfragen, die unser Leben bestimmen.

Und vielleicht weicht dann auch die undifferenzierte Ablehnung von allem, was computerberechnet ist, einer kenntnisreicheren Beurteilung. »Wir wissen nicht, was sie tun, deswegen empfinden wir zu Recht massives Unbehagen an der Digitalisierung. Wir werden durchschaut, können aber nicht zurückschauen«, schreibt Christoph Kucklick in seinem 2015 erschienenen Buch Die granulare Gesellschaft. Je mehr wir zurückschauen, mit und ohne Expertenhilfe, umso weniger dämonisch werden die Computerprogramme sein, und umso nüchterner kann man die Interessen analysieren, die sich in ihnen materialisieren. Und umso häufiger entscheiden nicht die Algorithmen für uns, sondern wir entscheiden uns für Algorithmen, weil sie unser Leben vereinfachen.

Und die Algorithmen, auf die wir keinen Einfluss haben, können wir zumindest verwirren. Wenn wir nicht verhindern können, dass wir Datenspuren hinterlassen, können wir immerhin verwirrende Spuren erzeugen. Obfuscation nennt man das auf Englisch, was so viel heißt wie Verdunkelung, Vernebelung. Es gibt ein Programm namens AdNauseam, das im Hintergrund auf sämtliche Werbebanner klickt, die beim Surfen eingeblendet werden. Damit wird das Profil der persönlichen Vorlieben eines Nutzers völlig unbrauchbar. Eine App namens TrackMeNot stellt laufend sinnlose Anfragen bei Google und verwässert damit ebenfalls das persönliche Profil. Man kann Obfuscation auch in der richtigen Welt betreiben – etwa indem Kunden im Supermarkt ihre Kundenkarten tauschen. Dann profitieren sie immer noch von Sonderangeboten, machen aber den Algorithmen das Leben schwer. Es gibt bereits ein Buch, das eine Fülle solcher Anti-Algorithmen-Streiche aufführt (Obfuscation. A User’s Guide for Privacy and Protest von Finn Brunton und Helen Nissenbaum).

Aber in vielen Fällen lassen wir uns ja freiwillig von Algorithmen überwachen. Wer, wie die Selbstvermesser der »Quantified Self«-Bewegung, alle seine täglichen Aktivitäten und biologischen Parameter in Form von Daten und Messwerten abspeichert und sich dann von einem Computer den persönlichen Ernährungs- und Trainingsplan berechnen lässt, der entscheidet sich bewusst für ein algorithmisches Leben. Viele finden es angenehm, wenn eine äußere Instanz ihnen die Arbeit abnimmt, das eigene Leben zu planen – seien es Eltern, der Arbeitgeber oder eben ein Algorithmus. Ob ein dermaßen optimiertes Leben ein glücklicheres ist, ist eine andere Frage.

Eine Sorte von Computerprogrammen sollten wir allerdings in den nächsten Jahren besonders im Auge behalten: die neuronalen Netze, neuerdings mit dem Schlagwort »Deep Learning« etikettiert (siehe Kapitel 11). Bei denen kann man drüber streiten, ob man sie noch als Algorithmen bezeichnen will – sie laufen zwar auf gewöhnlichen Computern seriell und nach vorgegebenen Programmstrukturen ab, aber sie lernen selbsttätig, Dinge zu kategorisieren und daraus Regeln abzuleiten. Und diese Regeln liegen, anders als bei klassischen Algorithmen, nicht explizit vor. Nicht einmal der Programmierer weiß, was sich das neuronale Netz da zusammengereimt hat. Diese Netze werden die intelligenten Maschinen der Zukunft steuern – die selbstfahrenden Autos, die Übersetzungsmaschinen, die digitalen persönlichen Assistenten. Man muss nicht gleich darüber fantasieren, ob sie uns Menschen bald intellektuell überlegen sein werden. Aber sie werden zunehmend in unser Leben eingreifen, und das nach Regeln, die wir nur erahnen können.

Ein paar Worte noch zu den Algorithmen, die ich für dieses Buch ausgewählt habe. Im Rahmen eines populären Buchs ist der Grad an Komplexität, den man vermitteln kann, begrenzt – deshalb kommen in vielen Kapiteln als Beispiele Algorithmen vor, die schon ein paar Jahre oder Jahrzehnte alt sind, oft waren sie die Ersten ihrer Art und haben eine ganze Schar von weiteren, komplizierteren Programmen hervorgebracht. Sie stehen also stellvertretend für eine ganze Klasse von Verfahren, die in dem jeweiligen Gebiet angewandt werden. Ich habe versucht, die wichtigsten Algorithmen zu identifizieren, die heute und in Zukunft unseren Alltag beeinflussen werden. Außen vor geblieben sind die für Mathematiker teilweise bahnbrechenden Verfahren, mit denen sich etwa die Berechnung bestimmter Gleichungssysteme schneller beschleunigt hat als die Rechenkapazität der Hardware, die sich nach dem mooreschen Gesetz alle zwei Jahre verdoppelt (siehe Seite 35).

Dieses Buch ist weder ein Manifest gegen die bedrohlichen Algorithmen, noch bejubelt es die Segnungen der Computerverfahren, ohne ihre Schattenseiten zu sehen. Mit einfachen Antworten kann ich nicht dienen. Ich bin fest davon überzeugt, dass Bildung dabei helfen kann, sich souveräner in der neuen Welt zu bewegen. Grundlagen der Algorithmen gehören in die Lehrpläne der Schulen, auch ein paar einfache Programmierfähigkeiten können nicht schaden. Je mehr wir über die Verfahren wissen, die uns täglich begegnen, umso weniger hilflos müssen wir uns ihnen gegenüber fühlen. Und umso weniger berechenbar werden wir.