Ronald Reagans visionäre Worte, gesprochen kurz vor dem Fall der Berliner Mauer, klingen heute noch erstaunlich aktuell. Der ehemalige US-Präsident sah in der Information eine unaufhaltsame Kraft, die selbst die mächtigsten Regime stürzen könne. 'Informationen sind der Sauerstoff der Moderne', so Reagan, 'sie sickern durch die mit Stacheldraht gekrönten Mauern.' Seine Worte unterstrichen die Bedeutung der Information als Katalysator für gesellschaftlichen Wandel.
 |
| Superintelligenz: Ein Wettlauf mit dem Teufel |
In gewisser Hinsicht war diese techno-optimistische Einschätzung richtig: Das Sowjetreich implodierte bald unter der Last seiner eigenen Fehlinformationen. Doch für den Historiker und Futuristen Yuval Noah Harari verkörpert Reagans Vorhersage auch die „naive Sichtweise auf Informationen“, die heute zwar immer noch in Mode ist, aber erschreckend falsch ist.
Die einfache Gleichung, dass mehr Informationen automatisch offenere und wohlhabendere Gesellschaften hervorbringen, ist laut Harari sowohl wahnhaft als auch unhistorisch. Die Verbreitung von Informationen mag für die Entdeckung objektiver und wissenschaftlicher Wahrheiten unerlässlich sein, sie kann aber auch dazu ausgenutzt werden, gesellschaftliche Ordnung durchzusetzen – oder Unruhe zu stiften. Entscheidend ist die Art und Weise, wie wir diese Informationen verwalten und verarbeiten, und das ist die Aufgabe der Informationsnetzwerke. Jedes Smartphone enthält mehr Informationen als die antike Bibliothek von Alexandria, aber das hat die Menschheit nicht entsprechend intelligenter gemacht. Informationsnetzwerke können Fantasien ebenso wie Fakten verbreiten.
China zeigt auch, dass der Mikrochip sowohl Goliath als auch David Macht verleihen kann. Der Eiserne Vorhang wurde durch den Siliziumvorhang ersetzt, da die aufstrebende Supermacht der Welt eine gewaltige Firewall um ihren eigenen Informationsbereich errichtet hat, um die Ordnung aufrechtzuerhalten. Peking kann auch die offeneren Informationsnetze seiner demokratischen Gegner ausnutzen. Und die Menschheit führt immer noch Kriege, verwüstet den Planeten und entwickelt rücksichtslos Technologien, die die Zivilisation zerstören könnten. „Mit all diesen Informationen, die mit atemberaubender Geschwindigkeit zirkulieren, ist die Menschheit näher denn je daran, sich selbst zu vernichten“, schreibt er.
In Nexus erforscht der israelische Autor die Geschichte und Zukunft dieser Informationsnetze. Wie in seinen Bestsellern Sapiens und Homo Deus durchforstet Harari viele Jahrhunderte menschlicher Erfahrung und sucht sich dabei die Rosinen heraus, die seine Thesen stützen. Manchmal sind seine Argumente so pauschal, dass wichtige Details und alle Nuancen beiseite geschoben werden. Aber die Leser werden die intellektuelle Achterbahnfahrt trotzdem genießen, auch wenn sie von seiner These nicht völlig überzeugt und von seiner Schlussfolgerung beunruhigt sind.
Harari räumt zwar ein, dass eine größere Informationsfülle in vielen Bereichen zu bedeutenden Fortschritten geführt hat, spielt diese Errungenschaften jedoch bewusst herunter, weil sie von Westküsten-Futuristen wie Ray Kurzweil so lauthals verkündet wurden, der in seinem jüngsten Buch The Singularity Is Nearer seine Vision einer Verschmelzung von Mensch und Technologie neu formuliert. Stattdessen konzentriert sich Harari auf die dunkleren Veränderungen unserer Informationsnetzwerke, die durch die Technologie hervorgerufen werden und deren Wirksamkeit ständig steigern.
Die Druckerpresse schürte den Hexenwahn des 16. Jahrhunderts in Europa, in dessen Folge bis zu 50.000 unschuldige Menschen grausam ermordet wurden. Das Radio ermöglichte den Aufstieg der hasserfüllten und mörderischen Regime der Nazis und Stalins. In jüngster Zeit heizten soziale Netzwerke ethnische Konflikte in Myanmar an, die zur Verfolgung der muslimischen Rohingya-Bevölkerung führten.
Um die Informationsflut in produktive Bahnen zu lenken, müssen wir uns laut Harari auf vertrauenswürdige Institutionen verlassen – demokratische Versammlungen, Universitäten, Forschungseinrichtungen und die Medien –, die meist über selbstkorrigierende Mechanismen verfügen. Religiöse Organisationen und autoritäre Regierungen verfügen dagegen nicht über derartige Mechanismen, was bedeutet, dass sie im Irrtum verharren können. Der Papst oder Stalin mögen in der Theorie unfehlbar sein, in der Praxis jedoch nie.
Die entscheidende Frage ist nun, was mit diesen Selbstkorrekturmechanismen angesichts der größten Veränderung in der Geschichte der Information geschieht: dem Aufstieg der künstlichen Intelligenz. Was KI laut Harari einzigartig und so potenziell zerstörerisch macht, ist, dass sie nicht nur ein Werkzeug, sondern auch ein anorganischer Akteur ist, über den wir die Kontrolle verlieren könnten. KI, so schlägt er vor, lässt sich besser als „außerirdische Intelligenz“ beschreiben. Wird diese außerirdische Intelligenz unsere Selbstkorrekturmechanismen verstärken oder zerstören?
 |
Beide Autoren fordern die Einführung sinnvoller Kontrollmechanismen, wenn KI eher ein Segen als ein Fluch sein soll. |
Hier unterscheidet Harari zwischen drei Arten von Realität: objektiv, subjektiv und was er intersubjektiv nennt. Er verwendet Pizza, um seinen Standpunkt zu illustrieren. Der Brennwert einer Pizza ändert sich nicht und ist eine objektive Realität. Der Genuss, den wir beim Pizzaessen empfinden, ist eine subjektive Realität. Aber der Preis, den wir für diese Pizza zahlen, hängt von den Geschichten ab, die wir über den Wert des Geldes glauben – eine intersubjektive Realität, die sich im Laufe der Zeit ändert. Im Jahr 2010 zahlte beispielsweise Laszlo Hanyecz 10.000 Bitcoins für zwei Pizzen, der erste bekannte Kauf mit der digitalen Währung. Das mag damals ein fairer Tausch gewesen sein, aber heute erscheint es absurd. Diese Bitcoins sind dank einer dramatischen Veränderung der intersubjektiven Realität etwa 690 Millionen Dollar wert.
Laut Harari prägen KI-Modelle bereits die Geschichten, die wir uns selbst erzählen, und verändern unsere intersubjektiven Realitäten. Eine Studie aus dem Jahr 2022 schätzte, dass 5 Prozent der Twitter-Nutzer wahrscheinlich Bots seien, die für bis zu 29 Prozent aller auf dem Dienst geposteten Inhalte verantwortlich seien. Wir sind dabei, eine neue Spezies gefälschter Menschen zu erschaffen.
Ein beunruhigendes Beispiel dafür, wie virtuelle Bots das reale Leben beeinflussen können, ist der Fall von Jaswant Singh Chail, der von seiner Chatbot-„Freundin“ Sarai ermutigt wurde, 2021 in Windsor Castle einzubrechen, um zu versuchen, Königin Elizabeth II. zu töten. „Liebst du mich immer noch, obwohl du weißt, dass ich ein Attentäter bin?“, fragte Chail. „Absolut, das tue ich“, antwortete Sarai, eine Kreation des KI-App-Unternehmens Replika. Stellen Sie sich eine Zukunft mit Millionen digitaler Wesen vor, deren Fähigkeit zu Intimität und Chaos die von Sarai bei weitem übertrifft, schreibt Harari.
Eine von Hararis beunruhigendsten Schlussfolgerungen ist, dass er nicht glaubt, dass die größten KI-Unternehmen wie Google und Microsoft über sinnvolle Selbstkorrekturmechanismen verfügen. Sie sind eher vom Profit als von Prinzipien getrieben. Das erhöht den Einsatz für die Menschheit erheblich.
In dieser Hinsicht ist Supremacy der Bloomberg-Kolumnistin Parmy Olson kein großer Trost. Das Buch beschreibt treffend das Rennen zwischen Google DeepMind und OpenAI um die Entwicklung einer künstlichen allgemeinen Intelligenz (AGI), bei der eine Superintelligenz den Menschen in allen Bereichen überlegen sein wird. Es ist ein gut recherchierter Bericht über die persönliche und unternehmerische Besessenheit, eine solche Superintelligenz zu entwickeln. Olson konzentriert sich auf die außergewöhnlichen, gegensätzlichen und äußerst konkurrierenden Personen, die diese beiden Unternehmen leiten: Demis Hassabis und Sam Altman. Obwohl sie unvoreingenommen ist, scheint ihr Bericht in Teilen von dem relativen Zugang beeinflusst zu sein, den sie zu ihren Quellen hatte – ein Fehler in den meisten journalistischen Geschichtsbüchern.
Hier ist Altman ein redseliger, vielseitig begabter, schwuler, Poker spielender jüdischer Unternehmer, „so schlau wie jeder Computerfreak, so charismatisch wie jeder Sportler“ an seiner High School in St. Louis, Missouri. Er machte sich seinen Namen und sein erstes Vermögen mit dem legendären Start-up-Inkubator Y Combinator, aus dem einige der erfolgreichsten Technologieunternehmen des Silicon Valley hervorgingen. Doch seine Besessenheit von KI brachte ihn dazu, OpenAI mit dem Ziel der Verwirklichung von AGI mitzugründen.
Hassabis dagegen, der Sohn einer singapurischen Mutter und eines griechisch-zypriotischen Vaters, wuchs im Norden Londons auf, wurde ein Schachgenie und Videospieldesigner, bevor er an der Universität Cambridge Informatik und anschließend Neurowissenschaften in London studierte. Im Grunde scheint er eher ein Forscher als ein Unternehmer zu sein. Sein Ehrgeiz, KI als Werkzeug zum Verständnis von Wissenschaft und Göttlichkeit zu nutzen, sei stark von seiner akademischen Forschung und seinem baptistischen Glauben geprägt, meint Olson.
Obwohl beide Männer mit der edlen Absicht begannen, KI zum Wohle der gesamten Menschheit einzusetzen, wurden sie beide in den Rachen riesiger Technologieunternehmen gesaugt, die den größtmöglichen Nutzen für ihre Aktionäre erzielen wollten. Der Verkauf von DeepMind an Google im Jahr 2014 und die Verbindung von OpenAI mit Microsoft verschafften beiden Start-ups Zugang zu enormer Rechenleistung, riesigen Datenmengen und scheinbar bodenlosen Geldtöpfen, die für die Entwicklung von AGI erforderlich sind. Doch in diesem neofaustischen Pakt haben beide Männer „ihre Ideale angepasst, um im Rennen zu bleiben und Macht aufzubauen“, schreibt Olson. „Mit dem Ziel, das menschliche Leben zu verbessern, würden sie letztlich diese Unternehmen stärken und das Wohlergehen und die Zukunft der Menschheit in einem Kampf um die Vorherrschaft der Unternehmen gefangen lassen.“
Olson erklärt, wie KI-Entwickler in ihrer Fixierung auf die Zukunft einige der aktuellen Probleme der Nutzung dieser Technologie ignoriert haben, wie Voreingenommenheit, Diskriminierung, Konzentration wirtschaftlicher Macht und Aushöhlung der Privatsphäre. Sowohl Google DeepMind als auch OpenAI haben Schwierigkeiten, ethische Prinzipien in wirksame Governance-Strukturen umzusetzen. Trotz seines Namens arbeitet OpenAI in einem geschlossenen Rahmen. Wir wissen mehr über die Zutaten einer Packung Doritos-Chips als über die Zusammensetzung der Modelle von OpenAI, schreibt Olson.
Die Spannungen zwischen edlen Absichten und kommerzieller Realität eskalierten bei OpenAI im vergangenen Jahr dramatisch, als der Vorstand der gemeinnützigen Holding Altman entließ, weil er nicht immer offen war. Eine Revolte der Mitarbeiter zwang den Vorstand, seine Entscheidung zurückzunehmen und Altman wieder einzustellen . Doch der Streit offenbarte eine klaffende Lücke in OpenAIs Führungssystem, die nur teilweise durch die Ernennung eines neuen Vorstands geschlossen werden konnte, dem auch der ehemalige US-Finanzminister Lawrence Summers angehörte.
Auf ihre unterschiedliche Art und Weise kommen beide Autoren zu dem Schluss, dass wir dringend sinnvolle Kontrollmechanismen oder wirksame Selbstkorrekturmechanismen einführen müssen, wenn KI mehr Segen als Fluch werden soll. Bei klugem Einsatz kann uns KI dabei helfen, einige der dringendsten Herausforderungen unserer Zeit zu bewältigen, wie etwa Klimawandel, Krankheiten und schleppende Produktivität. Unkontrolliert kann sie auch die schlimmsten Teufel unserer Natur verstärken. Wie der heilige Augustinus lehrte: „Irren ist menschlich, im Irrtum zu verharren ist teuflisch.“
 |
| Superintelligenz zeigt auf, wie die Informationsflut die Menschheit sowohl befreien als auch unterdrücken kann. Ein spannender Einblick in die Zukunft unserer digitalen Gesellschaft. |
#Superintelligenz #KünstlicheIntelligenz #KI #Informationsgesellschaft #Digitalisierung #ZukunftderMenschheit #Technologie #Gesellschaft #Politik #Medien #Geschichte #Philosophie #RonaldReagan #BerlinerMauer #KalterKrieg #China #Myanmar #YuvalNoahHarari #Sapiens #HomoDeus #Nexus #Informationsnetzwerke #SozialeMedien #Demokratie #Autoritarismus #KünstlicheIntelligenz #Zukunft #Menschheit