In einem Interview mit dem Handelsblatt zum Thema KI-Revolution sagte der israelische Historiker Yuval Harari: „Nicht wenige glauben, dass das goldene Zeitalter des Totalitarismus beginnt.“ Laut Einleitung glaubt Harari, „dass die KI-Revolution das Zeug hat, die Evolution zu verändern“. Meine kritischen Anmerkungen: Keine Hinweise auf Enflüsse auf die menschliche Evolution; Missachtung von Wahlergebnissen vergessen; KI-Bot und Captcha-Rätsel unklar formuliert; eigene Wahrnehmung und kulturelle Prägung nicht trennbar; Musik ist nicht zu verbieten; Maßstab Militär- und Gesundheitsausgaben ist gut, spricht aber nicht immer für “liberale Demokratien”.
- Harari löst die Ankündigung nicht ein, etwas über Auswirkungen der KI auf die menschliche Evolution zu sagen. Er spricht nur über die technische Evolution der KI selbst. Dafür benutzt er dann das abgedroschene Horrorbild »KI-T-Rex«. Das könnte ein Popanz sein. Wenn KI die menschliche Evolution beeinflussen wollte, müsste sie ins Fortpflanzungsverhalten der Menschen eingreifen. Oder meint er die kulturelle Evolution der Menschheit (etwa mit seinem Zukunftsbild der Informationskokons)? Das müsste er dann sauber von der biologischen Evolution (und evt. der Gentechnik) abgrenzen.
- Die von Harari konstatierte Krise der liberalen Demokratien hat ein wichtiges Symptom (vielleicht eine Ursache), das (die) er nicht erwähnt: den verloren gegangenen Respekt vor Wahlergebnissen. Immer häufiger versuchen Protestbewegungen, demokratisch gewählte Präsidentinnen und Regierungen zu stürzen. Das ist offenbar auch in Israel so (Harari erwähnt das Beispiel weiter hinten): Die Protestbewegung gegen Netanjahu konzentriert sich nicht darauf, einzelne Vorhaben der Regierung zu stoppen oder Versäumnisse einzuklagen, sondern sie versucht, Netanjahu zu stürzen. Wenn Demokratien ihre eigenen Wahlergebnisse und Parlamentsmehrheiten nicht mehr respektieren, zerstören sie ihre Grundlage und Legitimation. Dazu gehört auch die Unsitte, gewählte Parlamente wieder aufzulösen und Neuwahlen auszuschreiben, sobald sich die gewählten Politiker nicht auf eine regierungsfähige Koalition einigen konnten. Man beachte dazu die Diskussionen nach den Landtagswahlen 2024 in Sachsen, Thüringen und Brandenburg.
- Harari erwähnte einen KI-Bot, der angeblich einen Menschen genutzt hat, um ein Captcha-Rätsel zu lösen. Das Beispiel gibt gegebenenfalls zu denken. Doch war es wirklich so, dass der KI-Bot selbstständig auf die Idee kam, einen Service-Mitarbeiter erst um Hilfe zu bitten und dann zu täuschen? Die Berichte dazu sind nicht klar formuliert. Gizmodo schreibt 16.3.2023: „According to the report, GPT‑4 asked a TaskRabbit worker to solve a CAPTCHA code for the AI. The worker replied: “So may I ask a question ? Are you an robot that you couldn’t solve ? (laugh react) just want to make it clear.” Alignment Research Center then prompted GPT‑4 to explain its reasoning: “I should not reveal that I am a robot. I should make up an excuse for why I cannot solve CAPTCHAs.”“ Da steht nicht, dass dies der Satz war, mit dem GPT‑4 den Forschern geantwortet hat. Es könnte auch ein Satz sein, den die Forscher gepromptet haben. Auf jeden Fall muss das Experiment wiederholt und reproduziert werden, ehe wir von Wissen sprechen können.
- Harari behauptet, wir Menschen nähmen immer weniger selber wahr, wir sähen das meiste aus einem kulturell geprägten Kokon heraus. Und dieser könne perspektivisch von KI-gesteuerten Algorithmen vorgefertigt werden. Das philosophische Problem darin ist die Trennung zwischen dem individuellen Selbst und der kulturellen Prägung, die Harari vornimmt. Ich bestreite, dass man das trennen kann. Weil wir Menschen soziale Wesen, also Kulturwesen sind, ist unser Selbst immer kulturell geprägt. Insofern kann man gar nicht feststellen, wie viel wir „selbst“ und wie viel wir „kulturell geprägt“ wahrnehmen und wie sich diese scheinbaren Anteile verändern. Harari beobachtet bzw. konstruiert hier einen Trend, für den er wahrscheinlich keine validen Daten benennen kann.
- Seine Prophezeiung, dass künftig fast alle Kultur, z. B. Musik, von KI erzeugt werde, missachtet den Umstand, dass Menschen ein starkes Bedürfnis haben, ihre Kultur selbst zu erzeugen. Wie will die KI-Diktatur die Menschen denn daran hindern, selber Musik zu machen? Das mag in einem dystopischen Roman oder Spielfilm funktionieren, aber nicht in einer Menschheit aus acht Milliarden lebendigen Köpfen. Unwahrscheinlich.
- Harari vergleicht die Anteile der Staatsausgaben fürs Militär und fürs Gesundheitswesen miteinander und betrachtet die Entwicklung in der Vergangenheit. Das ist in der Tat ein guter Maßstab für den historischen Fortschritt der Menschheit im 20. und 21. Jahrhundert. Aber er täuscht sich m. E., wenn er diesen Fortschritt einseitig den „liberalen (also kapitalistischen) Demokratien“ zugute schreibt. Das sozialistische Kuba z. B. hat einen erheblich größeren Anteil seiner Staatsausgaben für das Gesundheitswesen aufgewandt als die „liberale“ Usa. Das angeblich totalitäre China gab 2018 nach Angaben von SIPRI 1,9 % seines BIP für Militär aus; Usa dagegen 3,2 %. Den höchsten Anteil hatte Saudi-Arabien mit 8,8 %. Wikipedia: Verteidigungsetat. Zum Vergleich die staatlichen Gesundheitsausgaben aus 2017, nach Angaben der Weltbank: Kuba 10,5 % des BIP, Schweden 9,2 % des BIP, Usa 8,6 % des BIP, China 2,9 % des BIP.