Gesellschaft am Scheideweg Wie Big Data und Computer-Algorithmen unsere Zukunft bestimmen

Künstliche Intelligenz (KI) kann uns in vielerlei Hinsicht eine Hilfe sein. Vor allem in Verbindung mit Robotik erleichtert sie uns den Alltag. Allerdings war bislang noch jede Technologie mit Nebenwirkungen und Gefahren verbunden, sagt Komplexitätsforscher Dirk Helbing von der renommierten ETH Zürich.

Wenn wir nicht aufpassen, können Menschen ihr Recht auf Selbstbestimmung, Unternehmen die Kontrolle und Staaten ihre Souveränität und Demokratie verlieren. Im Folgenden zeige ich anhand eines Worst-Case- und eines Best-Case-Szenarios, dass sich unsere Gesellschaft an einem Scheideweg befindet. Jetzt kommt es darauf an, den richtigen Weg zu wählen.

Künstliche Intelligenz (KI) macht rasende Fortschritte. Mit „Deep Learning“-Algorithmen lernt KI nun selbständig dazu. Mit Apples Siri, Google Now, Amazon Echos Alexa und Microsofts Cortina haben wir nun digitale Assistenten für den Alltag. Ray Kurzweil, ein Technologie-Guru aus dem Silicon Valley, der am Google Brain-Projekt arbeitet, geht davon aus, dass Computer bis 2030 die Leistungsfähigkeit des menschlichen Gehirns übertrumpfen. Solche Zukunftsprognosen wurden lange Zeit als Science Fiction abgetan.

Computer als die besseren Manager?

Schon seit Jahrzehnten sind Computer die besseren Schachspieler. Inzwischen sind sie in fast allen Strategiespielen überlegen. Gerade hat ein Google-Programm den Go-Weltmeister geschlagen. Das hat selbst viele Experten überrascht. IBM‘s Watson-Computer gewinnt sogar Spieleshows – und auch bei vielen medizinischen Diagnosen übertrifft er die menschliche Kompetenz. Heutzutage werden bereits 70 Prozent aller Finanzgeschäfte durch autonome Computeralgorithmen getätigt – Tendenz steigend. Schon bald gibt es selbstfahrende Autos, die unsere Fahrkünste in den Schatten stellen.

Auch wenn es darum geht, Handschriften zu erkennen, Sprachen zu verstehen und zu übersetzen oder Muster zu identifizieren, kommen Algorithmen den menschlichen Fähigkeiten nahe. In Anbetracht der Tatsache, dass 90 Prozent der heutigen Berufe genau diese Fähigkeiten erfordern, wird es schon sehr bald möglich sein, Routineaufgaben durch Computeralgorithmen oder Roboter zu ersetzen, die leistungsfähiger sind, nie müde werden, sich nicht beschweren und keine Sozialversicherungsbeiträge oder Steuern zahlen. 50% der heutigen Jobs sind in Gefahr.

Jim Spohrer von IBM prognostiziert: „KI wird uns anfangs als Instrument dienen, aber schon bald werden Roboter unsere Teamkollegen und dann unsere Lehrer sein.“ Steve Wozniak, Mitbegründer von Apple, kommentiert wie folgt: „… Ich stimme zu, dass die Zukunft beängstigend und schlimm für die Menschen ist. Wenn wir zulassen, dass uns Maschinen alles abnehmen, werden sie über kurz oder lang schneller denken als wir und sich der langsamen Menschen entledigen, da sie Unternehmen selbst viel effizienter führen können.“

Sind wir dafür bereit? Nein, das sind wir nicht, aber wir müssen uns so schnell wie möglich auf die damit verbundenen Herausforderungen vorbereiten.

Ein Worst-Case-Szenario

Wurden in der Vergangenheit Bedenken laut, KI könne die Weltherrschaft übernehmen, beruhigten uns die Experten immer damit, dass wir jederzeit den Stecker ziehen und so das Problem lösen könnten. Leider ist das nicht so, denn KI-Programme haben die Forschungslabors schon längst verlassen. Meine Hauptsorge ist jedoch nicht, dass KI die Weltherrschaft übernehmen könnte. Das Problem ist vielmehr, dass eine kleine Gruppe von Personen versuchen könnte, mithilfe von KI-Technologien das Weltgeschehen zu beherrschen.

Begründet durch die Terrorgefahr werden heutzutage große Mengen persönlicher Daten über jeden einzelnen Bürger gesammelt. Diese werden anschließend in KI-Systeme eingespeist, die dadurch lernen, wie wir uns verhalten. De facto sind wir schon heute Versuchskaninchen von Unternehmen wie Google und Facebook, die tagtäglich Millionen automatisierter Experimente mit uns durchführen. Dabei lernen die KI-Systeme, wie wir auf Reize reagieren und wie durch diese Reize ein bestimmtes Verhalten ausgelöst werden kann.

Der Trend geht also von der Programmierung von Computern zur Programmierung von Menschen. Diese Manipulation geschieht häufig so subtil, dass wir es nicht merken. Technologien, die ursprünglich zur Personalisierung und effektiveren Gestaltung von Werbung entwickelt wurden, werden heute vermehrt auch als politisches Instrument eingesetzt. Mittels „Big Nudging“, einer Kombination von Methoden aus der Verhaltensökonomie („Nudging“ heißt im Englischen „Stupsen“) und von „Big Data“ über unsere Verhaltensweisen können beispielsweise die öffentliche Meinung und Wahlergebnisse manipuliert werden.

Der Trend geht zur Programmierung von Menschen

Der Nudging-Ansatz ist jedoch noch nicht wirksam genug, um ein gesundes und umweltbewusstes Verhalten der Bevölkerung zu erreichen. Dies ist der Grund, weshalb effektivere Feedback-Mechanismen wie personalisierte Preise entwickelt werden. Der „Citizen Score“, wie er derzeit in China implementiert wird, ist ein weiterer Schritt in diese Richtung. Alles, was die Bürger tun, erhält hier eine positive oder negative Bewertung: das Kaufverhalten ebenso wie die angeklickten Links im Internet. Sowohl die politische Meinung als auch das Verhalten der sozialen Kontakte wird ausgewertet. Der Citizen Score bestimmt, welche Kreditkonditionen und welche Jobs eine Person bekommt und in welche Länder sie reisen darf oder nicht.

Digitale Sklaverei

Höchstwahrscheinlich kommen Big Nudging- und Citizen Score-Technologien nicht nur in China zum Einsatz. „Nudging-Papst“ Richard Thaler zufolge haben in den letzten Jahren mindestens 90 Länder „Nudging-Zentren“ eingerichtet. Bislang ist wenig über diese Zentren öffentlich bekannt. Sollte aber das chinesische Modell in den genannten 90 Ländern zur Anwendung kommen, sind Demokratien weltweit in Gefahr.

Das Problem besteht darin, dass mit den erwähnten Technologien eine digitale Machtübernahme problemlos möglich und nur schwer umkehrbar ist. Beispielsweise kann jeder, der Zugang zu einer Big Nudging-Infrastruktur hat, Wahlergebnisse beeinflussen.

Angesichts des beängstigenden Potenzials, benötigen wir daher dringend Initiativen, die möglichst rasch die folgenden Maßnahmen umsetzen:

  • Die genannten Technologien bedürfen einer demokratischen Kontrolle durch die Parlamente.
  • Auch Oppositionsparteien sollte Zugang zu diesen Informationssystemen gewährt werden, um einen fairen politischen Wettbewerb zu garantieren – Pluralismus führt zu besseren Lösungen.
  • Die Nutzung der Technologien sollte auf einem demokratischen Mandat beruhen und durch ein interdisziplinäres Team führender Wissenschaftler erfolgen.
  • Die Einhaltung ethischer Prinzipien ist sicherzustellen.
  • Persönliche Daten sollten anonymisiert, die unbefugte Deanonymisierung bestraft werden.
  • Transparenz bezüglich der laufenden Maßnahmen ist wichtig, und es sollte eine Opt-Out-Möglichkeit bestehen (zumindest vom Scoring und Big Nudging, denn sonst verletzen sie unsere Menschenrechte).
  • Sollten soziale Experimente unerwünschte Nebenwirkungen haben, sollten die Opfer angemessen entschädigt werden.
  • Öffentliche Institutionen müssen die Einhaltung der Datenschutzregelungen nicht nur für große IT-Unternehmen sicherstellen, sondern auch bei den relativ unbekannten Unternehmen durchsetzen, die mit unseren persönlichen Daten handeln.

Zusammenfassend lässt sich festhalten, dass Selbstbestimmung und Demokratie derzeit in großer Gefahr sind. Massenüberwachung, Big Nudging, Citizen Scores und Implantate ebnen den Weg für digitale Sklaverei. Sie bedrohen aber auch die Souveränität von Unternehmen und Staaten, da sie anfälliger für Spionage, Manipulation und Cyberkriminalität werden.

Ein Best-Case-Szenario

KI-Technologien intensivieren das Wettrennen um die Herrschaft über die Welt und ihre Ressourcen. Heute kontrollieren angeblich 62 Personen so viel Kapital wie 50 Prozent der Weltbevölkerung. Meiner Ansicht nach sollten wir „Big Nudging“, „Citizen Scores“ und ähnliche Ansätze in die Schranken weisen, mit denen Millionen, wenn nicht gar Milliarden Menschen von zentraler Stelle aus top-down kontrollierbar werden. Sie können allzu leicht im totalitärsten Regime aller Zeiten enden. Vielmehr sollten wir die digitalen Möglichkeiten für alle erschließen und uns für ein kooperatives KI-Paradigma engagieren — der Symbiose von Mensch und Maschine.

Richtig organisiert kann uns die digitale Wirtschaft nahezu unbegrenzte Möglichkeiten eröffnen, da immaterielle Güter beliebig oft reproduzierbar und auf unzählige Arten nutzbar sind. Das Schlüsselwort ist Ko-Kreation, was bedeutet, dass Bürger Informationen, Wissen, Produkte und Services in einem weitgehend offenen Informations- und Innovationsökosystem veredeln können. Aus diesen Gründen gehe ich davon aus, dass kollektive Intelligenz und Ko-Evolution die neuen Organisationsprinzipien der partizipativen digitalen Gesellschaft der Zukunft sind. Sie sind mit Diversität und Kreativität vereinbar – wichtigen Erfolgsprinzipien von Wirtschaft und Gesellschaft.

„Nervousnet“ und das Internet der Dinge

Das “Internet der Dinge” macht jetzt die Koordination hoch-komplexer und diverser Systeme möglich, sogar auf dezentrale Weise (was die Störanfälligkeit, insbesondere gegenüber Cyberkriminalität, reduziert). Beispielsweise lassen sich externe Effekte von Interaktionen zwischen Unternehmen, Menschen und Umwelt messen (negative Externalitäten wie Lärm, Giftstoffe und Abfall, aber auch positive Externalitäten wie Recycling, neue Arbeitsplätze oder soziale Kooperation). Unter Verwendung von Blockchain-Technologien, die beispielsweise Bitcoin zugrunde liegen und sich gerade in der FinTech Branche verbreiten (die Abkürzung steht für Finanz-Technologie), kann man ergänzend ein multi-dimensionales Anreiz- und Austauschsystem bauen. Ich nenne es das “Finanzsystem 4.0” und sehe es als die Grundvoraussetzung für ein Upgrade des Kapitalismus zur Überwindung der Finanzkrise, der Ressourcenengpässe, und der Stagnation der Weltwirtschaft. Es würde erlauben, lokale Rückkopplungen zu erzeugen, um die Selbstorganisation von komplexen Systemen zu unterstützen. In vielen Fällen kann die Selbstorganisation komplexer dynamischer Systeme (wie des Autobahnverkehrs, der Wirtschaft oder der Gesellschaft), basierend auf geeigneten Interaktionen zwischen den Systemkomponenten (z.B. Fahrzeugen), die Ressourceneffizienz um 30 bis 40 Prozent erhöhen. Im Ergebnis sind eine bessere Ressourceneffizienz, eine Kreislaufwirtschaft, und mehr soziale Kooperation (statt häufigen Konflikten) zu erwarten.

Wir haben begonnen, solche Mechanismen in der Nervousnet-Plattform zu implementieren (siehe nervousnet.info). Nervousnet ist eine offene und partizipative Internet-der-Dinge-Plattform, die „Daten für alle“ und ihre verantwortungsvolle Nutzung fördern soll, insbesondere (1) Echtzeitmessungen unserer Umwelt, (2) deren wissenschaftliches Verständnis, (3) Bewusstsein für die wahrscheinlichen Auswirkungen unserer Entscheidungsoptionen, (4) Echtzeit-Feedback zur Unterstützung von Selbstorganisation und (5) kollektive Intelligenz. Gleichzeitig nimmt das Projekt die informationelle Selbstbestimmung ernst.

Wir schreiten nun in ein digitales Zeitalter, in dem Informationen und Ideen immer wichtiger werden – ein zunehmend ideelles Zeitalter. Das ist faszinierend und eine große Chance. Fragt sich nur, wann Europa endlich die fantastischen Möglichkeiten der digitalen Revolution ergreifen wird.

Verwandte Beiträge

Schreiben Sie einen Kommentar