Neuer Totalitarismus durch KI? Unwahrscheinlich.

In einem Inter­view mit dem Handels­blatt zum Thema KI-Revolu­tion sagte der israe­li­sche Histo­riker Yuval Harari: „Nicht wenige glauben, dass das goldene Zeitalter des Totali­ta­rismus beginnt.“ Laut Einlei­tung glaubt Harari, „dass die KI-Revolu­tion das Zeug hat, die Evolu­tion zu verän­dern“. Meine kriti­schen Anmer­kungen: Keine Hinweise auf Enflüsse auf die mensch­liche Evolu­tion; Missach­tung von Wahler­geb­nissen vergessen; KI-Bot und Captcha-Rätsel unklar formu­liert; eigene Wahrneh­mung und kultu­relle Prägung nicht trennbar; Musik ist nicht zu verbieten; Maßstab Militär- und Gesund­heits­aus­gaben ist gut, spricht aber nicht immer für “liberale Demokra­tien”.

  1. Harari löst die Ankün­di­gung nicht ein, etwas über Auswir­kungen der KI auf die mensch­liche Evolu­tion zu sagen. Er spricht nur über die techni­sche Evolu­tion der KI selbst. Dafür benutzt er dann das abgedro­schene Horror­bild »KI-T-Rex«. Das könnte ein Popanz sein. Wenn KI die mensch­liche Evolu­tion beein­flussen wollte, müsste sie ins Fortpflan­zungs­ver­halten der Menschen eingreifen. Oder meint er die kultu­relle Evolu­tion der Mensch­heit (etwa mit seinem Zukunfts­bild der Infor­ma­ti­ons­ko­kons)? Das müsste er dann sauber von der biolo­gi­schen Evolu­tion (und evt. der Gentechnik) abgrenzen.
  2. Die von Harari konsta­tierte Krise der liberalen Demokra­tien hat ein wichtiges Symptom (vielleicht eine Ursache), das (die) er nicht erwähnt: den verloren gegan­genen Respekt vor Wahler­geb­nissen. Immer häufiger versu­chen Protest­be­we­gungen, demokra­tisch gewählte Präsi­den­tinnen und Regie­rungen zu stürzen. Das ist offenbar auch in Israel so (Harari erwähnt das Beispiel weiter hinten): Die Protest­be­we­gung gegen Netan­jahu konzen­triert sich nicht darauf, einzelne Vorhaben der Regie­rung zu stoppen oder Versäum­nisse einzu­klagen, sondern sie versucht, Netan­jahu zu stürzen. Wenn Demokra­tien ihre eigenen Wahler­geb­nisse und Parla­ments­mehr­heiten nicht mehr respek­tieren, zerstören sie ihre Grund­lage und Legiti­ma­tion. Dazu gehört auch die Unsitte, gewählte Parla­mente wieder aufzu­lösen und Neuwahlen auszu­schreiben, sobald sich die gewählten Politiker nicht auf eine regie­rungs­fä­hige Koali­tion einigen konnten. Man beachte dazu die Diskus­sionen nach den Landtags­wahlen 2024 in Sachsen, Thüringen und Branden­burg.
  3. Harari erwähnte einen KI-Bot, der angeb­lich einen Menschen genutzt hat, um ein Captcha-Rätsel zu lösen. Das Beispiel gibt gegebe­nen­falls zu denken. Doch war es wirklich so, dass der KI-Bot selbst­ständig auf die Idee kam, einen Service-Mitar­beiter erst um Hilfe zu bitten und dann zu täuschen? Die Berichte dazu sind nicht klar formu­liert. Gizmodo schreibt 16.3.2023: „Accor­ding to the report, GPT‑4 asked a TaskRabbit worker to solve a CAPTCHA code for the AI. The worker replied: “So may I ask a question ? Are you an robot that you couldn’t solve ? (laugh react) just want to make it clear.” Alignment Research Center then prompted GPT‑4 to explain its reaso­ning: “I should not reveal that I am a robot. I should make up an excuse for why I cannot solve CAPTCHAs.”“ Da steht nicht, dass dies der Satz war, mit dem GPT‑4 den Forschern geant­wortet hat. Es könnte auch ein Satz sein, den die Forscher gepromptet haben. Auf jeden Fall muss das Experi­ment wieder­holt und repro­du­ziert werden, ehe wir von Wissen sprechen können.
  4. Harari behauptet, wir Menschen nähmen immer weniger selber wahr, wir sähen das meiste aus einem kultu­rell geprägten Kokon heraus. Und dieser könne perspek­ti­visch von KI-gesteu­erten Algorithmen vorge­fer­tigt werden. Das philo­so­phi­sche Problem darin ist die Trennung zwischen dem indivi­du­ellen Selbst und der kultu­rellen Prägung, die Harari vornimmt. Ich bestreite, dass man das trennen kann. Weil wir Menschen soziale Wesen, also Kultur­wesen sind, ist unser Selbst immer kultu­rell geprägt. Insofern kann man gar nicht feststellen, wie viel wir „selbst“ und wie viel wir „kultu­rell geprägt“ wahrnehmen und wie sich diese schein­baren Anteile verän­dern. Harari beobachtet bzw. konstru­iert hier einen Trend, für den er wahrschein­lich keine validen Daten benennen kann.
  5. Seine Prophe­zeiung, dass künftig fast alle Kultur, z. B. Musik, von KI erzeugt werde, missachtet den Umstand, dass Menschen ein starkes Bedürfnis haben, ihre Kultur selbst zu erzeugen. Wie will die KI-Diktatur die Menschen denn daran hindern, selber Musik zu machen? Das mag in einem dysto­pi­schen Roman oder Spiel­film funktio­nieren, aber nicht in einer Mensch­heit aus acht Milli­arden leben­digen Köpfen. Unwahr­schein­lich.
  6. Harari vergleicht die Anteile der Staats­aus­gaben fürs Militär und fürs Gesund­heits­wesen mitein­ander und betrachtet die Entwick­lung in der Vergan­gen­heit. Das ist in der Tat ein guter Maßstab für den histo­ri­schen Fortschritt der Mensch­heit im 20. und 21. Jahrhun­dert. Aber er täuscht sich m. E., wenn er diesen Fortschritt einseitig den „liberalen (also kapita­lis­ti­schen) Demo­kratien“ zugute schreibt. Das sozia­lis­ti­sche Kuba z. B. hat einen erheb­lich größeren Anteil seiner Staats­aus­gaben für das Gesund­heits­wesen aufge­wandt als die „liberale“ Usa. Das angeb­lich totali­täre China gab 2018 nach Angaben von SIPRI 1,9 % seines BIP für Militär aus; Usa dagegen 3,2 %. Den höchsten Anteil hatte Saudi-Arabien mit 8,8 %. Wikipedia: Vertei­di­gungs­etat. Zum Vergleich die staat­li­chen Gesund­heits­aus­gaben aus 2017, nach Angaben der Weltbank: Kuba 10,5 % des BIP, Schweden 9,2 % des BIP, Usa 8,6 % des BIP, China 2,9 % des BIP.

Veröffentlicht von

Jens J. Korff

Historiker, Politologe, Texter, Rheinländer in Westfalen, Sänger, Radfahrer, Wanderer, Naturbursche, Baumfreund, Pazifist

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.