Nicht um die Digitalisierung der Demokratie müssen wir uns zuerst kümmern,
sondern um die Demokratisierung des Digitalen. (Frank-Walter Steinmeier)
Dass die Erschaffung einer Superintelligenz unausweichlich sei, um die Welt definitiv zu retten, glauben die Propagandisten der „kalifornischen Ideologie“. Der Mensch, wie wir ihn kennen, ein Auslaufmodell. Das Buch „Prinzip Mensch“ ist ein Versuch, vom Gegenteil zu überzeugen.
Tom Hillenbrand ist Journalist. Und schreibt spannende und in Sachen Künstliche Intelligenz, Big Data und digitale Netzinfrastruktur kenntnisreiche Sciencefiction und Kriminalromane. Sie spielen in nicht allzu ferner Zukunft, was ihren besonderen Reiz ausmacht für jüngere und mittelalte Leser*innen. Denn diese haben die Chance, den möglichen Genuss bzw. die Unannehmlichkeiten einer hochentwickelten technischen Zivilisation noch an sich selbst zu erfahren, für die die ideologischen, wissenschaftlich-theoretischen und technologisch-praktischen Grundlagen bereits heute erdacht sind, erprobt und weiter erforscht werden. Stichworte: Silicon Valley, Internet, Quantencomputer, KI. Hillenbrands aufeinander aufbauende SciFi-Romane Hologrammatica und Qube nehmen ihren Lauf infolge eines Vorfalls mit der Künstlichen Intelligenz (KI) im Jahr 2048, die die Menschheit eingesetzt hat, um die Klimakatastrophe abzuwenden. Da der von der KI eingeschlagene (Aus-)Weg aber aus ethischen Gründen nicht akzeptabel erscheint, beginnt eine Auseinandersetzung mit einer aus der Kontrolle geratenen Maschinenintelligenz. Die technischen Abläufe verselbständigen sich und werden undurchsichtig…
Das Auftreten der Singularität
2045 ist das Jahr, in dem es so weit sein soll, in dem nach der Theorie von Ray Kurzweil (US-amerikanischer Futurist und Chefentwickler von Google) die „Singularität“ eintritt: Von da an soll eine starke Künstliche Intelligenz auf den Plan treten, die der Intelligenz des Menschen sowohl in allen Belangen überlegen sei als auch sich selbst verbessern und erzeugen könne. Der Traum der Erlösung des Menschen durch überragende technologische Macht werde Wirklichkeit, ein Transhumanismus zeichne sich ab, der sich auf die Schlüsseltechnologien Genetik, Nanotechnik und Robotik gründe und schließlich die Sterblichkeit des Menschen überwinde. Denn alle Probleme seien – schon in naher Zukunft – durch Technik und den heutigen Computern weit überlegene Quantencomputer lösbar.
Hillenbrand hat sich ganz offenkundig von den Ideen der Forscher aus dem Silicon Valley für seine Romane inspirieren lassen, ohne ihnen belletristisch zu verfallen. Denn bei ihm hat die Menschheit immer wieder ein Ass im Ärmel. Dass es erst gar nicht so weit kommen möge, ist das Ziel von Paul Nemitz und Matthias Pfeiffer in ihrem Buch Prinzip Mensch. Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz. Die beiden Autoren setzen sich mit den „schrecklichen Fünf“, den hinter diesen Entwicklungen stehenden digitalen Giganten Google, Apple, Facebook, Amazon und Microsoft (kurz GAFAM) auseinander und unterziehen die „kalifornische Ideologie“ einer fundamentalen Kritik (alle folgende Seitenangaben in Klammern beziehen sich auf dieses Buch).
Aus der Technologieentwicklung soll sich der Gesetzgeber raushalten
Nemitz, Mitglied der Datenethikkommission der Bundesregierung und leitend an der Erarbeitung der EU-Datenschutzgrundverordnung beteiligt, und Pfeiffer, Philosoph und Journalist sowie Entwickler von TV-Wissenschaftsformaten, warnen eindringlich vor einem rechtlich nicht oder kaum regulierten, nur an seine immanenten Gesetzmäßigkeiten gebundenen digitalen Fortschritt. Nach dem Willen der Entwickler, Unternehmer und Ideengeber des Silicon Valley sollen sich Cyberspace und Internet selbst regulieren dürfen, weil nur so Innovationen und die mit ihnen erhofften paradiesischen Verhältnisse schnell Wirklichkeit werden könnten. Um ihre Interessen durchzusetzen, unterhalten die superreichen GAFAM-Unternehmen in den USA und Europa ein Heer von Lobbyisten, die auf die Gesetzgebung Einfluss nehmen, und finanzieren Thinktanks, die auf den intellektuellen Diskurs und die öffentliche Meinungsbildung einwirken. Einer der einflussreichsten Apologeten dieser Selbstregulierung ist John Perry Barlow: „Regierungen der industriellen Welt, ihr müden Giganten aus Fleisch und Stahl, ich komme aus dem Cyberspace, der neuen Heimat des Geistes. Im Namen der Zukunft …: Lasst uns in Ruhe! … Wir glauben, dass unsere Regierungsweise sich aus Ethik, aufgeklärtem Eigeninteresse und Gemeinwohl eigenständig entwickeln wird“ (S. 102).
Gegen diese techno-libertäre Grundhaltung, die für sich systemtheoretische, kybernetische und neoliberale Argumente ins Feld führt, plädieren die beiden Autoren für eine Technologie, deren Algorithmen und Programmierungen so zu gestalten seien, dass Menschenwürde, individuelle Selbstbestimmung, Rechtsstaatlichkeit, Demokratie und eine sozial eigehegte Marktwirtschaft der technologischen Macht Grenzen setzen. Denn die Grundtendenz von GAFAM läuft auf den Versuch hinaus, einen einseitigen Freiheitsbegriff im profit- und herrschaftsorientierten Eigeninteresse zu etablieren. Wohin der allein gewollte ökonomische free flow führt, ist bereits heute zu beobachten: „Ein guter Teil des Cyberspace … besteht aus E-Commerce“ und einem „Sumpf aus Hate Speech, Fake News und Blasenbildung“ (S. 108), das ursprüngliche Ideal einer freien Meinungsbildung hat sich weitgehend erledigt. Bei dem Silicon Valley-Großinvestor Peter Thiel liest sich die Reduktion der Freiheit auf unternehmerische Handlungsfreiheit so: „Vor allem aber glaube ich nicht mehr, dass Freiheit und Demokratie vereinbar sind“ (S. 109). Mit dem Aufstieg von GAFAM ist aus dem Internet in erster Linie ein Geschäftsmodell geworden, das dem „Zeitalter des Überwachungskapitalismus“ (so das gleichnamige Buch der amerikanischen Wirtschaftsprofessorin Shoshana Zuboff) zugrunde liegt. Dessen Rohstoff ist menschliches Verhalten. Aus den digitalen Spuren, die wir als Nutzer im Netz hinterlassen, werden Daten, aus denen wiederum Persönlichkeitsprofile und voraussagbares Verhalten errechnet werden. Eine dafür entwickelte und eingesetzte KI würde erst recht eine „Asymmetrie von Wissen und Macht im Verhältnis Mensch-Konzern“ herbeiführen, „was schließlich bei den Konzernen zu gewaltigen Profiten führt, aber auch das Ende von Freiheit und Demokratie bedeuten kann“ (S. 73).
Dataismus und Spanner-Ökonomie
Big Data als das Sammeln aller erreichbaren persönlichen Daten ist sozusagen die Futterstelle für das Machine Learning, das eine Grundlage von KI darstellt. Es ist dadurch definiert, „schwierige Probleme… ohne eindeutige Vorgaben zu lösen“, während herkömmliche Algorithmen „das Modell zur Problemlösung vor(ge)geben“ (S. 44). Die fundamentale Gefahr dabei ist, dass der Mensch zu seinem eigenen Totengräber wird. Aus seiner Selbstbestimmung wird zunächst die Pflicht zur Selbstoptimierung, indem er als Cyborg existiert und schließlich im Transhumanismus überwunden und zum Sklaven der Maschine wird. Das Prinzip Mensch, das nach dem Aufklärer Immanuel Kant darin besteht, dass das Individuum stets Zweck und nie Mittel ist, soll überwachungskapitalistisch und technologiepolitisch überstiegen werden.
Das Buch von Nemitz/Pfeiffer ist dagegen ein philosophisch, kommunikationstheoretisch, rechts-, bildungs- und wirtschaftspolitisch argumentierender Appell an seine Leser*innen, das Menschliche zu bewahren und zu verteidigen. Sie sehen die gemeinsame Grundlage der durchaus sehr unterschiedlichen Geschäftsmodelle von GAFAM im (rechtlich unzureichend regulierten) Internet. Je mehr Menschen im Netz unterwegs sind und je größer das Datenvolumen, das auf den von GAFAM beherrschten und in den USA befindlichen (und deren Gesetzgebung unterliegenden) Cloud-Speichern anfällt, um so größer die Möglichkeit, eine „Spanner-Wirtschaft“ (Al Gore 2013 über Google und Facebook) zu betreiben, die Nutzer zu stalken. Die Idee und die Praxis ist es, den Nutzern nachzustellen, sie zu manipulieren und auszubeuten. Um so mehr Bedeutung kommt der Weiterentwicklung der Cloud Gaia-X zu, um die technologischen Pfade für eine europäische digitale Souveränität zu ebnen.
Instrumentelle Vernunft und Werte begründende, selbstbestimmte Vernunftleitung
Um einen totalitären Technokapitalismus in US-amerikanischer Gestalt zu verhindern, wenden Nemitz und Pfeiffer sich insbesondere an das Verantwortungsgefühl von Ingenieur*innen und Programmierer*innen und schlagen die Einführung einer „Staatsprüfung“ vor. In dieser sollten sie „ihre Kenntnisse über das Zusammenwirken von Technologie, Demokratie, Grundrechte und Rechtsstaatlichkeit“ (S. 345) nachweisen. Mit dem Soziologen Heinrich Popitz stimmen sie darin überein, dass „der Angelpunkt jeder Machtkontrolle in modernen Gesellschaften … die Kontrolle technischen Handelns“ ist (S. 23). Sie arbeiten die quasi-religiöse Allmachtsphantasie der kalifornischen Ideologie im Begriff des Dataismus heraus, für den „Sein nichts anderes als Daten ist“, wobei der „Datenspender Mensch in Information verwandelt … und durch Algorithmen bearbeitet und verfügbar gemacht werden“ (S. 150) kann. Wie eine Maschine sei auch der Mensch im Prinzip determiniert und nichts anderes als ein informationsverarbeitendes System nach dem Rückkoppelungseffekt der Kybernetik (Norbert Wiener), der den zukünftigen Soll- aus dem vergangenen Ist-Zustand heraus steuert. Das Schicksal des Einzelnen im Griff der Prädestination einer allwissenden und alles voraussehenden Suchmaschine, die auf Googles Webseite als „wirklicher Gott“ gefeiert wurde. Eine rein instrumentelle Vernunft ersetzt die eigene Vernunftleitung des sich selbstbestimmenden Individuums. Sie hat die Werte suchende und begründende, räsonierende Vernunft verdrängt. Dieser „Geist des Cyberspace“ hätte allerdings nichts gemein mit dem Geist, den der Gott der Bibel dem Menschen als seinem Ebenbild eingehaucht und zum Cooperator Dei auserkoren hat.
Strukturen der öffentlichen Meinungsbildung
Dem Gegenentwurf, dass das Netz prinzipiell Mittel einer Zwei-Wege-Kommunikation für demokratisch reife und aufgeklärte, sich bildende und ernsthaft in einen öffentlichen Diskurs miteinander tretende Staatsbürger*innen sein könnte, widmen die Autoren in Anknüpfung an Jürgen Habermas ein ausführliches Kapitel. Habermas untersucht die entscheidende Rolle einer funktionierenden Öffentlichkeit für die Demokratie und eines unabhängigen qualifizierten Journalismus der „stetige(n) Kommentierung und Kritik“ (S. 192). Dabei gilt eine freie Publizistik (Presse/Massenmedien/Verlagswesen) als vierte Gewalt in der Demokratie. Meinungsfreiheit und Meinungsvielfalt im öffentlichen Raum sollen durch die grundgesetzlich garantierte Pressefreiheit hergestellt werden. Journalisten*innen, die ihr „Handwerk“ gelernt und einem ethischen Codex verpflichtet sind, liefern den täglichen Nachrichtenstoff aus geprüften Quellen, achten auf objektive Berichterstattung, trennen davon ihre subjektive Kommentierung und sorgen so für das Zeitgespräch der Bürger*innen.
In dieser (hier etwas knapp und idealisiert dargestellten) Struktur der Öffentlichkeit haben Letztere zwar nur den Status der Rezipienten aufgrund der One-to-many-Kommunikation, sind also Empfänger der veröffentlichten Meinung. Erreicht wird so aber ein breites Publikum mit gleichartiger Berichterstattung, deren Inhalte dann gemeinsam diskutiert werden. Vermittels dieser Resonanz bildet sich eine öffentliche Meinung. Die freie Presse tritt so verbindend und kontrollierend zwischen das Volk und Parlament und Regierung.
Social Media, die Distribution von Nachrichten jeden Inhalts und jeder Form durch das Internet (Many-to-many-Kommunikation), hat die so strukturierte Öffentlichkeit schon sehr aufgeweicht und prekär verändert. Krassestes Beispiel: Donald Trump und seine lügenhaften, hasserfüllten, das Volk polarisierenden, keiner Objektivität und Ausgewogenheit verpflichteten Tweets über Twitter, Facebook und Instagram direkt an seine Follower*innen, und die (rechtlich fragwürdige!) Retourkutsche dieser Kommunikationsdiensteanbieter, die Accounts des ehemaligen Präsidenten nach der Belagerung des Kapitols am 6. Januar zu sperren. Die Plattformen fördern die Bildung von Meinungsblasen anstelle gemeinsam geteilter Inhalte und bevorzugen durch ihre geheimen Algorithmen emotionalisierende Einlassungen. Die „scheinbar dezentralen Netzwerkstruktur des Internets“, resümieren Nemitz/Pfeiffer, „nutzen rechte Parteien und Populisten“ heute am wirkungsvollsten, sodass „Demokratie so in den Zangengriff von Technologie und Populismus“ gerät. Schuld seien „protokollierende und Informationsströme organisierende Anbieter…, die zunächst die Überwachung und dann die Vermarktung der Teilnehmer, ihrer Kommunikation und ihres gesamten lebensweltlichen Verhaltens ermöglichen“ (S. 198/199).
Der Mensch ist mehr als eine kybernetische Maschine
Kontrolle des Verhaltens in einer durchdigitalisierten Welt, die so weit geht, dass mit prädiktiven Algorithmen kriminelles oder nicht zu bestimmten machtpolitischen Interessen passendes Verhalten eines Einzelnen aufgrund seines errechneten Persönlichkeitsprofils vorhergesagt und prophylaktisch verhindert werden kann, indem man einen vermeintlichen Delinquenten/Abweichler aus dem Verkehr zieht, obwohl er noch gar nichts getan hat? Genau diese Möglichkeit ist das moralische Thema des eingangs erwähnten Tom Hillenbrand in seinem Krimi Drohnenland. Hier sind es EU-Parlamentarier, deren Abstimmungsverhalten zu einem neuen Vertrag über das Staatenkollektiv sich trotz aller KI (namens „Terry“ = Teiresias, der blinde Seher aus der griechischen Mythologie) nicht zuverlässig berechnen lässt. Hillenbrand begründet dies mit der „Markov-Anomalie“, die er als Romancier nicht erläutern muss; aber was er verteidigen will, ist klar: Das Prinzip Mensch, das allein mathematisch eben nicht erfassbar ist. Es ist eine Absage an den „mathematischen Idealismus“ der kalifornischen Ideologie, in dem das Universum nichts anderes als ein „riesiger Quantencomputer“ (S. 116) sei.
Zum Weiterlesen
Paul Nemitz / Matthias Pfeiffer: Prinzip Mensch. Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz. Verlag J.H.W. Dietz 2020, 432 Seiten, 26,00 Euro
Tom Hillenbrand: Hologrammatica; Ders.: Qube; Ders.: Drohnenland. Alle erschienen bei: Verlag Kiepenheuer & Witsch, auch als Taschenbuch und E-Book erhältlich.
