Dieses Buch entstand aus einem Essay mit dem Titel »Macht uns Google dumm?«, das ich 2008 für die Juli/August-Ausgabe des Atlantic Monthly geschrieben hatte. Ich danke den Atlantic-Mitarbeitern James Bennet, Don Peck, James Gibney, Timothy Lavin und Reihan Salam für ihre Hilfe und Unterstützung. Meine Darstellung der Google-Strategie in Kapitel 8 stützt sich auf einen anderen Artikel von mir, der 2007 in der Zeitschrift Strategy & Business erschien und den Titel »Das Google-Rätsel« trug. Art Kleiner und Amy Bernstein von Strategy & Business danke ich für ihre hervorragende redaktionelle Bearbeitung. Zu großem Dank verpflichtet bin ich Mike Merzenich, Maryanne Wolf, Jim Olds, Russell Poldrack, Gary Small, Ziming Liu, Clay Shirky, Kevin Kelly, Bruce Friedman, Matt Cutts, Tom Lord, Caleb Crain, Bill Thompson und Ari Schulman, die sich viel Zeit genommen und geduldig meine Fragen beantwortet haben. Besonderer Dank gilt meinem Lektor bei W. W. Norton, Brendan Curry, und seinen fähigen Kollegen. Auch meinem Agenten John Brockman und seinen Partnern bei Brockman Inc. schulde ich großen Dank. Schließlich verneige ich mich vor den furchtlosen ersten Lesern dieses Buches: meiner Frau Ann und meinem Sohn Henry – sie schafften es bis zur letzten Seite!
Als ich Ende 2009 die Arbeit an diesem Buch abschloss, stolperte ich über eine kleine Geschichte, die in der Nachrichtenflut beinahe untergegangen wäre. Edexcel, der größte englische Anbieter im Bereich Prüfungen und Qualifikation, hatte angekündigt, er werde »eine automatische Prüfungskorrektur auf Basis künstlicher Intelligenz« einführen. Das computerisierte Bewertungssystem sollte die Essays »lesen und bewerten«, die britische Kursteilnehmer im Rahmen einer weitverbreiteten Sprachkenntnisprüfung schrieben. Ein Sprecher von Edexcel, übrigens eine Tochterfirma des Medienkonglomerats Pearson, erklärte laut einem Bericht im Times Education Supplement, das System arbeite mit »der Genauigkeit eines menschlichen Korrektors, eliminiert dabei jedoch menschliche Elemente wie Müdigkeit und Subjektivität«. Ein Prüfungsexperte sagte gegenüber der Zeitung, dass er die computerisierte Bewertung von Essays für eine der künftigen Hauptsäulen im Bildungsbereich halte: »Die Frage ist nicht, ob [die computerisierte Bewertung kommt], sondern wann.«1
Ich fragte mich, wie die Edexcel-Software wohl jenen wenigen Schülern gerecht werden wollte, die durch das Raster allgemeiner Schreibkonventionen fallen – nicht, weil sie unfähig sind, sondern, weil sie eine ganz besondere Begabung haben. Ich kannte die Antwort: gar nicht. Wie Joseph Weizenbaum betont hatte, fällen Computer keine eigenen Urteile. Sie befolgen Regeln. Statt Subjektivität bieten sie uns Formeln an. Die Geschichte zeigte, wie weitsichtig Weizenbaum gewesen war: Bereits vor Jahrzehnten hatte er davor gewarnt, dass wir mit zunehmender Abhängigkeit vom Computer versucht sein würden, ihm Aufgaben zu übertragen, »die Weisheit erfordern«. Haben wir das einmal getan, gibt es kein Zurück mehr. Die Software wird aus diesen Aufgaben nicht mehr wegzudenken sein.
Es ist schwer, den Versuchungen der Technik zu widerstehen. Die Vorzüge von Geschwindigkeit und Effizienz gelten in unserem Informationszeitalter als unstrittig, und es scheint außer Frage zu stehen, dass sie für uns wünschenswert sind. Ich werde jedoch die Hoffnung nicht aufgeben, dass wir nicht wie Lemminge jener Zukunft entgegenrennen, die unsere Computertechniker und Softwareprogrammierer für uns entwerfen. Selbst wenn wir nicht auf Weizenbaums Rat hören wollen, so sind wir es doch uns selbst schuldig, ihn wenigstens zu überdenken. Wir sollten uns bewusstmachen, was wir möglicherweise verlieren könnten. Es wäre doch traurig, wenn wir völlig fraglos die Vorstellung akzeptierten, »menschliche Elemente« wären veraltet und verzichtbar – insbesondere, wenn wir an die Erziehung unserer Kinder denken.
Die Edexcel-Geschichte rief mir wieder einmal die Szene am Schluss von 2001 ins Gedächtnis. Es ist eine Szene, die mich verfolgt hat, seit ich den Film in den 1970er Jahren als Teenager zum ersten Mal sah, in der Blüte meiner analogen Jugend. Was sie so ergreifend und gleichzeitig so seltsam macht, ist die emotionale Reaktion des Computers auf die Stilllegung seines Geistes: seine Verzweiflung, als ein Schaltkreis nach dem anderen abgeschaltet wird, sein kindliches Betteln und Flehen – »Ich spüre es. Ich spüre es. Ich habe Angst« – und schließlich die Rückversetzung in einen Zustand, der sich nur als Unschuld bezeichnen lässt.
HALs Gefühlsausbruch steht im Kontrast zu der Gefühllosigkeit, welche die menschlichen Figuren in dem Film auszeichnet, die mit beinahe roboterhafter Effizienz ihren Tätigkeiten nachgehen. Ihre Gedanken und Handlungen wirken fremdbestimmt, als folgten sie den Schritten eines Algorithmus. In der Welt von 2001 sind die Menschen so maschinengleich geworden, dass sich schließlich eine Maschine als einzig menschliche Figur erweist. Das ist der Kern von Kubricks düsterer Prophezeiung: Wenn wir die Welt nur noch durch den Computer begreifen, verkümmert unsere eigene Intelligenz zu einer künstlichen Intelligenz.