Yuval Noah Harari – ein Jäger der Gespenster des Technototalitarismus

Vor kurzem habe ich meine Pläne zur Selbstbildung noch einmal überdacht und mich erneut entschlossen, mit einer gründlichen Auseinandersetzung mit dem „frühen“ Harari zu beginnen – mit seinen Büchern „Sapiens: Der Mensch als König. Eine kurze Geschichte der Menschheit“ und „Homo Deus: Hinter den Kulissen der Zukunft“.

Allerdings hat mir bereits das erste zufällig ausgewählte Video auf YouTube ein ganz anderes Thema des späteren Harari vor Augen geführt.

Und ein paar Tage später erschien die Mitschrift dieses Interviews. Ich habe es mir noch einmal angehört und ein paar Mal durchgelesen.

Der Inhalt ist der Hammer. Intellektuell, demokratisch, humanistisch, aber brisant. Möglicherweise deshalb, weil es sich dabei derzeit wohl um die klarste und ausführlichste Kritik an den Prozessen handelt, die auf unserem Planeten und mit der Menschheit ablaufen. Im Wesentlichen handelt es sich um eine Kritik an jeder Form des Akzelerationismus und um die Angst vor einem neuen Totalitarismus. Einem Totalitarismus, an den selbst Science-Fiction-Autoren noch nicht gedacht haben.

NICHT DER TERMINATOR

Das Erste, was uns bei den Worten „Aufstand der Maschinen“ in den Sinn kommt, ist „Terminator“ – ein mittlerweile ziemlich abgedroschenes Klischee aus dem Kino.

In diesem Archetyp spielt ein Supercomputer die Hauptrolle, der Horden von durch Klassenhass in Raserei versetzten Haushaltsrobotern steuert.

Harari zeichnet ein anderes Bild, das sich deutlich von diesem Klischee unterscheidet. Seiner Ansicht nach wird die Bedrohung weniger zentralisiert und kaum physischer Natur sein – zumindest nicht körperlicher Art.

Das Hauptrisiko besteht darin, dass die KI beginnt, die Kernfunktionen der Menschheit zu duplizieren – die Fähigkeit zu sprechen, Informationen zu generieren und das Leben insgesamt zu bürokratisieren.

Dies ist eine wichtige Wende in der Diskussion über Technologien. Vor zehn Jahren war die größte Befürchtung der Zukunftsforscher der Verlust von Arbeitsplätzen in Fabriken. Heute geht es nicht mehr darum, ob ein Algorithmus einen Lkw-Fahrer oder einen Kassierer ersetzen wird. Es macht keinen Sinn, über das Offensichtliche zu diskutieren.

Die Frage, die Harari aufwirft, ist weitaus umfassender: Wer wird Entscheidungen über Gerichtsurteile, Bankkredite, öffentliche Beschaffungen, die Verteilung von Haushaltsmitteln und die Glaubwürdigkeit von Nachrichten treffen?

Damit wirft er die Frage nach der Wahrscheinlichkeit eines Verlusts der politischen Souveränität (!) auf.

Möglicherweise wird deshalb bei Harari nicht der „Terminator“ – ein Roboter-Soldat – zum Symbol der Zukunft, sondern der „Clerk“ – ein Roboter-Bürokrat.

Einerseits erscheint ein solches Bild weniger dramatisch. Zumindest wird er nicht mit der Vernichtung der Zivilisation im Feuer eines Atomkriegs in Verbindung gebracht. Das Wesentliche jedoch erkennt Harari mit der Scharfsichtigkeit eines biblischen Propheten: Seit den Anfängen in Sumer war es historisch gesehen gerade die Bürokratie, die das wichtigste Instrument der Macht blieb.

Kein Reich stützte sich ausschließlich auf das Militär. Es existierte in erster Linie dank der Menschen, die Steuern eintrieben, Kataster führten, Eigentum registrierten und Verträge abschlossen. Wahrscheinlich hat der Soziologe Max Weber deshalb im 20. Jahrhundert die Bürokratie als „die effizienteste Verwaltungsmaschine der Geschichte“ bezeichnet.

Harari hingegen behauptet, dass diese Maschine im 21. Jahrhundert ohne Menschen funktionieren könne. Science-Fiction? Ja. Aber so realistisch, dass sie noch zu Lebzeiten unserer Generation Wirklichkeit werden könnte.

An dieser Stelle sei angemerkt, dass sein Interview an sich keine Science-Fiction enthält. Es geht nicht um das „Selbstbewusstsein von Robotern“ oder deren Probleme mit moralischen Dilemmata.

Das Einzige, was Harari wirklich interessiert, ist die Quelle der Macht. Genauer gesagt: die Veränderung des Wesens der Macht und ihre Verlagerung in den außer-menschlichen Bereich.

Nein, das ist kein neumodischer Luddismus.

Zwar haben uns frühere technologische Revolutionen Dampfmaschinen, Elektrizität und das Internet beschert. Doch all dies ist nichts im Vergleich zur künstlichen Intelligenz, die mit dem grundlegenden Werkzeug unserer Spezies und der Zivilisation insgesamt arbeitet – mit der Sprache.

SPRACHE IST MACHT

Ja, die Dampfmaschine hat die Muskelkraft ersetzt, und der Computer hat Produktionsprozesse standardisiert. Der entscheidende Unterschied bei der KI besteht jedoch darin, dass sie nicht in die Warenproduktion eingreift, sondern in den Algorithmus der Entscheidungsfindung.

Möglicherweise ist dies der Grund, warum Harari die KI als die erste Technologie betrachtet, die in der Lage ist, als eigenständiges politisches Subjekt zu agieren. Früher besaßen Algorithmen keinen Willen. Nun, da sie zunehmend schreiben, Empfehlungen aussprechen, bewerten und so weiter, verlagert sich die Macht allmählich vom Menschen auf sie. Und das alles, weil Algorithmen schneller, kostengünstiger und – was am wichtigsten ist – objektiver werden als jeder Staatsapparat.

Wahrscheinlich entsteht genau in diesem Moment das „Gespenst des Technototalitarismus“. Ein Phänomen, das weder einen charismatischen Führer noch Massenterror oder gar Zensur benötigt, da der Algorithmus lediglich die Einhaltung der Regeln überwacht.

Im Grunde genommen ist er der Beamte, von dem wir träumen: ehrlich, klug und vor allem unbestechlich.

Seine Totalität gleicht einer Welle auf dem Wasser – kurz, selten und praktisch unsichtbar. Sie entsteht in den Lücken, die im Zuge der Automatisierung menschlicher Arbeit frei werden. Dort, wo wir Entscheidungen den Algorithmen überlassen. Und mit der Zeit, so Harari, verlieren wir die Fähigkeit, deren innere Logik selbstständig zu verstehen.

Hararis Befürchtungen stützen sich auf seine Sichtweise der Geschichte. Bereits in seinem Buch „Sapiens“ stellte er die These auf, dass unsere Spezies den Planeten dank der Fähigkeit erobert habe, gemeinsam an fiktive Wesen zu glauben. Dazu gehören allseits bekannte Dinge wie Staaten, Geld, Konzerne, Religionen und Menschenrechte. Genau genommen existiert all dies nur, weil sich Millionen von Menschen darauf geeinigt haben, es als Realität anzuerkennen.

Folgt man diesem Gedankengang: Wenn die Zivilisation auf Sprache aufgebaut ist, dann beginnt eine Technologie, die die Sprache besser beherrscht als wir, eigene Geschichten zu erschaffen, Menschen zu überzeugen und neue Bedeutungen zu formen.

Hier stimmen Hararis Ansichten mit der Philosophie von Jürgen Habermas überein. Für Habermas beruht Demokratie auf der Öffentlichkeit. Dies ist der Raum, in dem Bürger frei und rational diskutieren und eine gemeinsame politische Vision entwickeln können. Ihre Entscheidungen sind so lange legitim, wie sie im Dialog entstehen.

Harari überträgt diesen Gedanken ins 21. Jahrhundert. Er ist der Ansicht, dass der öffentliche Raum seine menschliche Natur verliert, wenn Algorithmen Informationen schneller generieren, als wir sie überprüfen können.

Zwar werden demokratische Institutionen weiterhin funktionieren, Wahlen stattfinden und das Parlament tagen. Doch! Das soziale Gefüge wird zunehmend von Algorithmen geprägt sein.

Dieses Netz wird die letzten Reste der Informationssouveränität einfangen. Die größte Herausforderung, vor der die Menschheit stehen wird, wird in der Frage bestehen: „Wer kontrolliert die Informationsströme?“ Bereits heute stehen die Technologiegiganten im Verdacht, Schritt für Schritt einen recht asymmetrischen „Plattformkapitalismus“ aufzubauen.

GEGEN DEN AKZELERATIONISMUS

Als Liberaler und Humanist steht Harari den klassischen Kritikern des Totalitarismus nahe. Im Gegensatz zu ihnen hat seine Version jedoch kein konkretes Gesicht. In ihr gibt es weder Stalins noch Hitlers Schnurrbart. Im Gegenteil: Das Hauptmerkmal des Technototalitarismus ist die absolute Transparenz der Gesellschaft gegenüber dem Kontrollsystem. Und die völlige Undurchsichtigkeit des Systems gegenüber den Menschen.

Erinnern wir uns an Hannah Arendt. Nach ihrer Auffassung liegt das Wesen des Totalitarismus im Bestreben, alle Lebensbereiche unter seine Kontrolle zu bringen. Als Instrument dafür diente die Parteibürokratie. Im Gegensatz dazu wird die algorithmische Bürokratie keine Repressionen verüben. Sie wird jedoch dank ihrer Leistungsfähigkeit, Unbestechlichkeit und Ehrlichkeit die tatsächliche Macht monopolisieren. Einerseits ist dies die Verkörperung des Archetyps des „guten Zaren“. Andererseits ist offensichtlich, dass Harari in eine versteckte Auseinandersetzung mit dem Akzelerationismus tritt, einer einflussreichen intellektuellen Bewegung im Silicon Valley. Das Interessanteste daran ist, dass Harari und die Accelerationisten die tatsächliche Lage gleichermaßen einschätzen. Sie unterscheiden sich lediglich in ihrer Bewertung derselben.

Der rechte Akzelerationismus – insbesondere die Werke von Nick Land – geht davon aus, dass der Mensch nicht mehr das zentrale Subjekt der Geschichte ist. Seinen Platz nehmen Kapital, Netzwerke und maschinelle Intelligenz ein. Daher ist die Demokratie nach Lands Ansicht zu langsam und ineffizient. Folglich ist ihr Niedergang keine Tragödie, sondern ein natürlicher Evolutionsprozess, der beschleunigt werden muss.

Harari stimmt dieser Beschreibung der aktuellen Entwicklungen zu. Auch er sieht, dass Algorithmen Steuerungsfunktionen übernehmen und politische Institutionen mit der technologischen Entwicklung nicht Schritt halten können. Doch während dies für Land ein willkommener Fortschritt ist, bedeutet es für Harari eine Katastrophe und den Verlust der menschlichen Souveränität.

In diesem Sinne ist Hararis Kritik an dem bekannten Slogan der Techno-Optimisten recht aufschlussreich: „Wir werden einen Gott erschaffen, aber er wird unser Sklave sein.“ Nach Hararis Ansicht wird KI, sollte sie den Menschen in Bezug auf Denken und Planen übertreffen, aufhören, ein Werkzeug zu sein. Ein Sklave kann kein Gott bleiben, und ein Gott kann kein Sklave sein.

Gleichzeitig, so seltsam es auch klingen mag, unterscheidet sich Harari auch vom linken Akzelerationismus – beispielsweise von den Autoren des Manifests „Inventing the Future“, Alex Srnicek und Nick Williams. Linke Akzelerationisten glauben, dass Technologien durch Maßnahmen wie „demokratische Kontrolle“ und „planwirtschaftliche Regulierung“ den gesellschaftlichen Bedürfnissen unterworfen werden können. Harari teilt diesen Optimismus nicht. Seiner Ansicht nach sind die Staaten den Konzernen bereits unterlegen. Zumindest dann, wenn sie in Bezug auf die Infrastruktur von fremden Technologien, Satelliten und Cloud-Servern abhängig werden.

VORAUSSETZUNGEN FÜR SKEPSIS

Hararis Argumente stützen sich auf die philosophische Tradition des 20. Jahrhunderts. Etwa seit dieser Zeit – möglicherweise seit Asimov – versuchen die klügsten Köpfe zu verstehen, was geschehen wird, wenn die Technik aufhört, nur noch ein Werkzeug zu sein.

• Jacques Ellul beispielsweise argumentierte bereits 1954 in seinem Werk *La Technique*, dass die Welt der Logik der technischen Effizienz unterworfen sei. Wenn sich etwas schneller und kostengünstiger bewerkstelligen lässt, wird die Gesellschaft dies tun, ohne über die Folgen nachzudenken.
• Michel Foucault analysierte die Disziplinargewalt. Seiner Ansicht nach bestraft sie weniger, als dass sie misst, umschreibt und normalisiert. Wer über Wissen über die Bevölkerung verfügt, der beherrscht sie auch. Das Potenzial der KI ermöglicht es, diese Logik zu verallgemeinern.
• Shoshana Zuboff beschrieb in ihrem Buch „The Age of Surveillance Capitalism“, wie digitale Plattformen das Verhalten der Menschen in eine Ware verwandelt haben. Harari führt ihren Gedanken weiter: Was wird geschehen, wenn dieses System nicht nur unsere Kaufentscheidungen, sondern auch unsere politischen Entscheidungen bestimmt?
• Evgeny Morozov kritisiert seit Jahren den „technologischen Solutionismus“ – den Glauben, dass jedes komplexe Problem „technisch gelöst“, also mit Hilfe eines verbesserten Algorithmus, gelöst werden kann. Nach diesem Ansatz erhalten gesellschaftliche und politische Konflikte den Status einer technischen Aufgabe. Infolgedessen weicht Gerechtigkeit der Optimierung.
• James Scott hat in seinem Werk „Seeing Like a State“ aufgezeigt, wie der Staat die Gesellschaft mithilfe von Volkszählungen, Steuerregistern und Standardisierung „lesbar“ macht. Die künstliche Intelligenz wiederum treibt diese Lesbarkeit auf die Spitze. Während der Staat die Gesellschaft früher alle zehn Jahre im Rahmen einer Volkszählung erfasste, erfasst der Algorithmus sie heute jede Sekunde.

Kurz gesagt: Harari fürchtet nicht, dass die KI ein Selbstbewusstsein entwickelt. Er fürchtet vielmehr die Entstehung eines Systems, das mehr über die Gesellschaft weiß, als die Gesellschaft über sich selbst weiß.

VERWASSERUNG DER VERANTWORTUNG

Harari ist kein Luddit, kein Technophob, er ruft nicht dazu auf, Computer zu zerstören und in eine bestimmte Epoche der Vergangenheit zurückzukehren. Im Grunde genommen hinterfragt er lediglich die nächste Modernisierungswelle, eine weitere Ausprägung des historischen Determinismus.

Die Kommunisten glaubten beispielsweise an das Absterben der Klassen. Technofaschisten beharren auf der Unvermeidbarkeit des Untergangs der Demokratie, die gezwungen sein werde, effizienteren Regierungssystemen Platz zu machen.

Harari ist jedoch überzeugt, dass Verwaltungseffizienz nicht das einzige Kriterium ist. Zumindest nicht in der Politik, deren Ziel darin besteht, Konflikte zwischen Menschen mit unterschiedlichen Wertvorstellungen zu schlichten.

Zwar ist die Demokratie „langsam“. Doch gerade diese Geschwindigkeitsbegrenzung, all diese Debatten, Verfahren und Untersuchungen, dient als Schutzmechanismus gegen die Monopolisierung der Macht durch wen auch immer.

In dieser Hinsicht schließt sich Harari fast Karl Popper und dessen Kritik am „Historizismus“ an – dem Glauben an die Existenz eines einzigen richtigen Verlaufs der Geschichte. Eine Illusion, die zu den kommunistischen und faschistischen Experimenten im 20. Jahrhundert führte – dem blutigsten Jahrhundert in der Geschichte unserer Spezies.

Harari überträgt dieses Argument auf das 21. Jahrhundert. Der Unterschied besteht darin, dass im 20. Jahrhundert eine Partei Träger der „historischen Wahrheit“ war, während heute zunehmend ein Algorithmus diese Rolle übernimmt. Zudem benötigt der „neue Totalitarismus“ keine Ideologie. Seine Entscheidungen werden – oder werden zumindest als solche wahrgenommen – als mathematisch und somit als objektiv und fundiert gelten.

Und vor allem: Wer wird für all dies verantwortlich sein? Wen soll man für einen Fehler verantwortlich machen? Den Entwickler, das Unternehmen, den Staat oder den Algorithmus selbst? Früher trug der Urheber die Verantwortung. Doch welchen Urheber hat ein Algorithmus außer dem Eigentümer, der ihn beispielsweise gekauft oder gemietet hat?

Bei Orwell gleicht der Totalitarismus dem „Großen Bruder“. Bei Huxley dient das Vergnügen als Voraussetzung für die Kontrolle. Bei Harari ist es ein Netzwerk von Algorithmen, in dem der Mensch scheinbar keine offensichtliche Gewalt spürt. Doch nach und nach, Schritt für Schritt, distanziert er sich von seinen eigenen Entscheidungen und delegiert sie.

EINE WELT OHNE POLITIK

Die größte Schwäche von Hararis Konzept – wie auch vieler ähnlicher humanistischer Konstrukte – ist das Fehlen eines Aktionsplans. Ja, er ist ein brillanter Diagnostiker, doch er hat keine Ahnung, wie man den Tumor heilen kann, der im Körper der menschlichen Zivilisation entdeckt wurde.

Seine Heilmittel sind schwach und erinnern an Homöopathie. All diese internationalen Vorschriften und Ethikkodizes gleichen eher guten Wünschen für eine glückliche Reise. Insbesondere in einer Welt, die schwerwiegende geopolitische Turbulenzen durchlebt und nach und nach in eine neue Deglobalisierung abgleitet.

Er verlagert jedoch den Schwerpunkt der Diskussion auf ein Problem, das im 21. Jahrhundert zur zentralen Frage werden könnte: Wird der Mensch ein politisches Subjekt in einer Welt bleiben, in der Entscheidungen von Algorithmen getroffen werden, die er nicht vollständig verstehen kann?

Falls nicht, dann ist der Technototalitarismus unsere Zukunft. Er wird weder Lager noch Massenterror benötigen. Er wird wie ein äußerst komfortables, effizientes und wohlwollendes, fast schon „großmütterliches“ Beratungssystem erscheinen.

Eine „Großmutter“, die den Menschen den Luxus des Denkens vorenthalten wird. Zunächst die Notwendigkeit, dann die Fähigkeit dazu. Und die Zivilisation in eine Richtung zu lenken, die bereits im fernen Jahr 1958 von Isaac Asimov in einer seiner Erzählungen beschrieben wurde. Darin „erfindet“ ein Programmierer eine Methode, Zahlen zu multiplizieren.

Harari fürchtet das Aufkommen eines künstlichen Gottes nicht, in dem man gemeinhin die technische Singularität sieht.

Er befürchtet vielmehr, dass die Menschen zunächst ihre Macht delegieren und sich anschließend auch der Ausübung dieser Macht entziehen werden.

Und dann wird der Technototalitarismus Einzug halten – ein Zeitalter, das der 300.000-jährigen Geschichte unserer Spezies ein Ende setzen könnte.

Eine Spezies, die ihr Interesse verliert und sich somit nicht mehr weiterentwickelt.