"Oops, he did it again"-
Harari und die Künstliche Intelligenz
1. Oops...
Ja, er hat es wieder getan, der israelische Historiker und Buchautor Yuval Noah Harari. Grosse Buchhandlungen legen es gleich reihenweise in die Auslage, und der rote Aufkleber "Autor des Weltbestsellers SAPIENS" lässt keinen Zweifel daran: Harari hat ein neues Buch geschrieben, sozusagen das neueste in der Reihe "Eine kurze Geschichte..." oder auf englisch "A brief history of...". Das erwähnte SAPIENS erklärte sich im Untertitel zur "...brief history of humankind", das darauf folgende HOMO DEUS zur "...brief history of Tomorrow", und folgerichtig ist also das neueste Werk namens NEXUS eine "...brief history of Information Networks". Man sieht, der Mann liebt es gerne gross, und seine Werke werden deswegen im englischen Sprachraum dem Genre der BIG HISTORY zugeordnet. Und es ist durchaus verständlich, dass der Autor im Mittelpunkt einer - selbstverständlich "globalen" - Werbekampagne für sein neues Werk steht. Dazu gehören Artikel im britischen "Economist" vom 6.September ebenso wie ein TV-Auftritt bei ARD-Frau Maischberger in ihrer gleichnamigen Sendung vom 15.Oktober. Aber auch schon ein Artikel mit dem herausfordernden Titel "AI has hacked the operating system of human civilization" *1 vom 28.04.2023 bereitet auf Thema und Thesen von NEXUS *2 vor.
2. "A brief History of..."
Am Anfang dieser Buchvorstellung von NEXUS muss ich bekennen, garnicht das gesamte Werk durchgelesen zu haben, sondern nur zwei kurze Kapitel davon. Möglicherweise tue ich dem Autor im Folgenden unrecht, vielleicht verbergen sich in den über 550 Seiten des Buches ungeahnte Weisheiten? Allerdings habe ich mich durch das noch dickere Buch HOMO DEUS von 2016 damals komplett durchgearbeitet, und in den zwei Kapitel-Stichproben meine ich dieselben prinzipiellen Mängel zu erkennen wie in dem früheren Buch.
Dass der Serientitel "Eine kurze Geschichte von..." leicht irreführend ist, merkt man nach dem Erwerb der Bücher. Auch Nexus bietet über 500 Seiten Text auf, gefolgt von einem nochmal rund 100 Seiten umfassenden "Anmerkungsapparat". Hat sich da Harari bzw. sein Verlag bei der Untertitelwahl eher von dem Titel des Überraschungserfolgs von 1988, der "Brief History of Time" des Physikers Stephen Hawking, inspirieren lassen?
Neben dem schon erwähnten Artikel im Economist von 2023 und der (Werbe-)Sendung bei Maischberger *3 sind also nur die erwähnten zwei Kapitel Basis des Folgenden.
3. Das iranische Beispiel
Im Kapitel "Unerbittlich - Das Netzwerk ist immer im Dienst" weist Harari durchaus auf Gefahren durch KI-Anwendungen hin: "In den falschen Händen können dieselben Techniken, die Randalierer aufspüren, vermisste Kinder retten und Hooligans aus Stadien verbannen , auch zur Verfolgung friedlicher Demonstranten oder zur Durchsetzung eines rigiden Konformismus eingesetzt werden."
Und er liefert auch gleich ein Beispiel aus dem Iran. Dort sollen etwa durch Gesichtserkennung und Verknüpfung mit nationalen Datenbanken Frauen aufgespürt worden sein, die entgegen dem vom "Mullah-Regime" verfügten Zwang zum Tragen von Hidschab (Gesichtsschleier) oder Kopftuch ohne solches beim Fahren eines Autos "erwischt" wurden. Und die Strafen sind laut Harari bzw. seinen Quellen drakonisch: Neben der "Überstellung" der Frauen an die Justiz wird die Beschlagnahmung des Autos für mehrere Wochen angedroht oder vollzogen. Erstaunlicherweise sollen die Frauen, gleich nach der Entdeckung ihrer Verfehlung durch "das System", eine SMS mit entsprechenden Warnungen bzw. Androhungen von den Behörden erhalten. Neben einer hochwertigen Gesichtserkennung würde dies auf eine umfassende Verknüpfung mit den Datenbanken zu Mobilfunkverträgen, aber auch den Kfz-Zulassungsstellen hinweisen.
Die meisten Westeuropäer werden solche finsteren Überwachungs- und Bestrafungstechniken den "Mullahs" wohl zutrauen. Ob diese Geschichte stimmt oder nicht, soll hier aber nicht erörtert werden.
Interessant ist etwas anderes, wenn wir einen Artikel im britischen "The Guardian" *4 vom Dezember 2023 hinzuziehen. Dort lesen wir:
>The latest Israel-Hamas war has provided an unprecedented opportunity for the IDF to use such tools in a much wider theatre of operations and, in particular, to deploy an AI target-creation platform called "the Gospel", which has significantly accelerated a lethal production line of targets that officials have compared to a "factory".< *5
Die "Israeli Defense Forces" (IDF), also die israelischen Streitkräfte, nutzen danach ein mit dem fast schon blasphemischen Namen "GOSPEL" versehenes AI-System, um Ziele für Bomben-, Raketen- oder Drohnenangriffe auf Gaza zu "erzeugen". Aus verschiedenen Quellen, vermutlich abgehörten Mobilfunkgesprächen, Videoaufnahmen bekannter "Hamas-Anführer" und sich daraus ergebenden Bewegungsmustern soll GOSPEL also ableiten, welcher Gaza-Bewohner ein "Terrorist" ist und die ultimative Bestrafung, Auslöschung durch Bombardierung, "verdient" hat.
Bei diesem KI-System geht es also um weitaus mehr als um Kfz-Entzug oder Verhaftung, hier geht es definitiv um Leben oder Tod. Und schon der Guardian bemerkt in dem Artikel, dass der Regler für die Entscheidung "Terrorist oder nicht" ganz offensichtlich im Verlaufe der IDF-Operation sozusagen heruntergefahren wurde, weil die Anzahl der "identifizierten" Ziele sich recht bald verdoppelte. Nun, nach über 12 Monaten Gaza-Bombardierung, wirkt Gaza 2024 nahezu wie Dresden 1945 nach den Flächenbombardements der britischen und US-Luftwaffen. Ob der Regler irgendwann auf "Null" gestellt wurde?
Nun ist der Guardian, ausweislich diverser Zitate im "Anmerkungsapparat", eine der offensichtlich regelmässig von Harari genutzten Quellen. Und schliesslich sitzt er ja, im Unterschied zur Iran-Geschichte, bezüglich der IDF direkt an der Quelle. Und auch wenn er selber nicht in der IDF gedient hat, so wird er nahezu zwangsläufig mit IDF-Leuten zu tun haben, denn der Wehrdienst gilt in Israel bekanntlich umfassend, auch für Frauen und mittlerweile sogar für die ultra-orthodoxen Juden. Kaum glaubhaft, dass er vor der Herausgabe seines Buches 2024 nicht wenigstens in groben Zügen von dem GOSPEL-System erfahren haben sollte. Die IDF selbst verweist darauf, schon seit 2019 an solchen Systemen zu arbeiten.
Aber Harari wählt das iranische Kopftuch-System als Beispiel für Verfolgung und nicht das (thematisch wie geografisch) weitaus näherliegendere israelische IDF-System. Und auch Frau Maischberger, die doch schon aus tagesaktuellen Gründen jede Veranlassung hätte, Harari - den in Europa vermutlich bekanntesten israelischen Intellektuellen - in der erwähnten ARD-Sendung nach dem KI-System der IDF zu fragen, tut es nicht. Wieso wohl?
4. Das "Alignment-Problem"
Unser Autor ist nicht schlecht darin, schmissige Begriffe für von ihm identifizierte Prozesse zu finden. So gäbe es also ein "Alignment-Problem" bei der Nutzung komplexer bzw. als KI zu bezeichnender Computersysteme. Die Problematik der richtigen "Abstimmung", wie man "alignment" übersetzen könnte, liege also darin, die "Verschmutzungen der Informationssphäre" möglichst genau zu erkennen, und er preist beispielhaft Google dafür, mit seinem Gmail-Algorhytmus 99,9 Prozent der echten Spam-Mails zu blockieren.
Im entprechenden Absatz zum "Alignment-Problem" erfahren wir allerdings auch höchst privates, denn "...ich bin den sozialen Medien dankbar, dass sie mich mit meinem Mann zusammengebracht haben, den ich 2002 auf einer der ersten LGBTQ-Plattformen kennengelernt habe. Die sozialen Medien haben für verstreute Minderheiten wie LGBTQ-Menschen Wunder bewirkt." Weiter erfährt man, dass der junge Yuval "...in einer homophoben Kleinstadt in Israel aufwuchs". Noch mehr Lob gibt es ein paar Sätze vorher: "Sie [die sozialen Medien] haben eine noch nie dagewesene Welle menschlicher Kreativität ausgelöst."
Mit Herrn Hararis sexueller Orientierung wollen wir uns hier nicht beschäftigen, ebensowenig mit der Frage, ob die Mehrzahl der Beiträge auf Facebook oder Instagram nun als Beispiele besonderer Kreativität gelten können. Aber wir können etwas die Wortwahl beleuchten, also z.B. "LGBTQ-community". Sind denn solche über Facebook und Co. vermittelten "communities" wirklich menschliche Gemeinschaften im hergebrachten Sinne? Wenn ich irgendeinen Artikel über eBay versteigere, werde ich sogleich Teil der "ebay-community", will ich einen Kommentar zu irgendeinem Zeitungs- oder Medienartikel schreiben, werde ich unversehens via Konten-Einrichtung ebenfalls Teil der jeweiligen "community". Dass auch alternative Medien diesen Terminus oft verwenden, ändert an der Fragwürdigkeit des Begriffes nichts. Wenngleich man zugeben muss, dass sich aus solchen elektronischen Kontakten durchaus richtige Gemeinschaften entwickeln können, aber in aller Regel dann als Teilmenge der als "community" vereinnahmten Menschen.
Der andere auffällige Begriff ist LGBTQ: Denn im Jahre 2002, als Herr Harari seine Online-Bekanntschaft machte, war der vorherrschende Begriff noch einfach LGB. Die Ausdehnung auf LGBTQ oder mittlerweile LGBTQIA *6 ist meiner Beobachtung nach erst im letzten Jahrzehnt propagiert und teilweise eben auch üblich geworden.
Herr Harari gibt sich also zeitgeistig-aktuell, obwohl man annehmen kann, dass sich die damals von ihm benutzten Webseiten vornehmlich an "gay people", also schwule Männer, richteten. Meiner Ansicht nach, die mittlerweile auch von vielen feministischen Gruppen geteilt wird, ist durch die Aufnahme des "T" für "transsexuell" jedoch der Grundstein für die schleichende Auflösung der echten, eben entweder lesbian oder gay oder bisexual definierten Gruppen, gelegt. Denn das T steht ja eigentlich für etwas transitorisches, das "T"-Individuum möchte ja entweder männlich oder weiblich werden und hätte danach die Freiheit, sich entweder für L oder G oder B zu entscheiden - mehr Kombinationsmöglichkeiten gibt es ja bei zwei Geschlechtern nicht.
Aber indem ich dies schreibe, begehe ich ja für die LGBTQIA-Aktivisten eine Häresie, denn die Auflösung der natürlichen Geschlechterbegriffe ist ja genau ein Ziel dieser Aktivisten (siehe dazu auch mein Text "Happy Gendering").
Harari, als Sprachrohr der globalistisch-woken Intellektuellen-"community", muss also quasi von "LGBTQ-community" reden, will er nicht der Exkommunikation anheimfallen.
5. Füllstoff
Der Schaupieler und Regisseur Patrick McGoohan ist bei einigen Leuten meiner Generation unvergessen wegen der weitgehend von ihm bestimmten und gestalteten Fernsehserie "The Prisoner" (auf deutsch "Nummer 6"). Er war aber in der Nachsicht seinem Werk gegenüber durchaus kritisch eingestellt, und so bezeichnete er einige der Episoden als "Füllstoff", vorrangig erschaffen, um auf die vertraglich ausgemachte Anzahl von Folgen zu kommen.
Ähnlichen "Füllstoff" bietet Harari auch im Fortgang seines "Aligment"-Kapitels. Da geht es munter von Napoleon zur deutschen und italienischen Kleinstaaterei, um über Clausewitz und George W. Bush zur "Computerrevolution" und autonomen Waffen zu kommen. Dass Herr Harari ursprünglich von der Militärhistorie kommt (seine ersten Werke hatten dieselbe zum Thema, allerdings vorzugsweise mittelalterliche) ist diesen Ausführungen anzumerken. Ob aber andere Historiker dieser Schlussfolgerung Hararis zustimmen würden, ist fraglich: "Für Clausewitz bedeutet Rationalität also Ausrichtung." In dem Sinne, dass jegliches rationales Handeln eine Abstimmung oder Ausrichtung an den jeweiligen Realitäten voraussetzt, zwar richtig, aber eine Binsenwahrheit. Aber Harari geht es natürlich um etwas anderes: Ihm geht es darum, dass die elektronischen Medien permanent "abgestimmt" werden sollen, um die beklagte Verschmutzung der Informationssphäre abzustellen. Oder kurz gesagt: Zensur ist für den Autor notwendig, aber auch diese Zensur muss sorgfältig abgestimmt sein zwischen staatlichen Stellen und privaten Medienkonzernen - darum geht es hier.
Nach der berühmt-berüchtigten Volksabstimmung über "Stuttgart-21" hier in Baden-Württemberg textete ein Satiriker wie folgt: "In der Volksabstimmung wird das Volk abgestimmt!" Diese Art "Abstimmung" ist es wohl, die auch Harari im Sinne hat.
6. Der Harari-Kniff
Wie schon erwähnt, hatte ich mich 2018 durch sein Werk HOMO DEUS durchgearbeitet, und dabei immer wieder diese Art Kniff beobachtet und beschrieben:
> So kommt er u.a. zu dem Schluss: "In the twentieth century we have almost doubled life expectancy from forty to seventy, so in the twenty-first century we should at least be able to double it again to 150." (Im 20. Jahrhundert haben wir die Lebenserwartung fast verdoppelt von 40 auf 70, also sollten wir mindestens fähig sein, sie noch einmal auf 150 zu verdoppeln")
Hoppla - macht er da nicht einen zutiefst unwissenschaftlichen Schluss, indem er von der Verdopplung eines Wertes - der durchschnittlichen Lebenserwartung - auf die Verdoppelung oder Erhöhung eines ganz anderen Wertes - der maximal möglichen Lebensspanne - schliesst? Denn die ab Mitte des 19. Jahrhunderts festzustellende Erhöhung der durchschnittlichen Lebenserwartung war ja viel weniger durch eine Erhöhung des maximalen Lebensalters als durch den Wegfall vieler Todesfälle in jungem und mittlerem Lebensalter bedingt.<
So ähnlich geht es mit "Alignment" und Zensur. Interessant ist auch, was im Stichwortverzeichnis zu finden ist und was nicht:
Nicht zu finden sind Zensur, UN oder Vereinte Nationen, Völkerrecht, auch Israel und IDF scheinen keiner Erwähnung wert. Mehrfache Fundstellen dagegen bei Fake News (6x), Verschwörungstheorien (5x), Putin (4x) und FSB (2x). Talmud ist ebenso indiziert wie Terminator, aber auch Tschernobyl. Das Fehlen von Three-Mile-Island mag sich thematisch erklären, aber wenn der FSB 2x indiziert wird, wieso dann die IT-technisch vermutlich weit besser ausgestattete CIA nicht? Allerdings ist das Stichwortverzeichnis möglicherweise nicht so umfassend, wie man es sich wünschen würde. Denn auch George W. Bush hat es nicht in den Index geschafft, obwohl er im gleichen Absatz wie der 2x indizierte Clausewitz erwähnt wird.
6. Von KI oder AI zu "Skynet"
An jedem "Handy-Shop" schreit es uns entgegen: "Das neue Smartphone xy jetzt mit KI !" Auch die Medien berichten, so scheint es zumindest, jeden Tag über eine neue KI-Anwendung, die unser Leben endlich sicherer, bequemer, aber auch effizienter und natürlich "ressourcenschonender" machen soll. Gerade bei der Smartphone-Werbung könnte man den Eindruck haben, die wunderbare KI sein in dem Gerät selbst verbaut. Dem ist natürlich nicht so, letztendlich handelt es sich nur um an unterschiedlichen Stellen ansetzende "API's" (application programming interfaces), die den Inhalt der Anfragen an eines der verschiedenen KI-Systeme weiterleiten und auf dem Rückkanal die Antwort oder das Ergebnis präsentieren.
Macht Harari nun Anstalten, diese Verhältnisse klarzustellen? So knallige Sätze wie "AI has hacked the operating system of human civilization" oder "We have just encountered an alien intelligence, here on Earth." *7 deuten eher auf einen anderen Mythos, nämlich den von einer plötzlich auf dem Planeten aufgeschlagenen, quasi exoterrestrischen Intelligenz mit möglicherweise sinistren Absichten. Schon erklärt sich der Verweis auf die "Terminator"-Filme im Index, denn der Hintergrund-Plot dieser Filme ist ja, dass ein superintelligent gewordenes Computernetzwerk namens "Skynet" plötzlich "durchdreht" und die Menschen als auszurottende Feinde betrachtet (unvergesslich die Eingangsszene, in der ein entfernt menschenähnlicher Kampfroboter mit seiner Titanferse einen menschlichen Schädel zermalmt).
Nun fehlt mir eine entsprechend zuverlässige Glaskugel, um die Zukunft in 30, 50 oder 100 Jahren vorherzusagen, auch bin ich kein KI-Experte - Harari scheint mir übrigens auch keiner zu sein.
Aber ein paar grundsätzliche Überlegungen kann man doch aufgrund der materiellen Basis der ganzen Informationstechnologie anstellen. Nehmen wir den Topos vom "Durchdrehen", der schon seit den 1950er Jahren - damals meist auf Roboter bezogen - regelmässig bemüht wurde und wird. Natürlich kann z.B. ein Industrieroboter, der irgendwelche Karosserieteile von A nach B wuchten soll, aufgrund eines Defektes in Sensorik oder Steuerung seinen Hebearm plötzlich durch den üblichen Sicherungskäfig durchschlagen und dabei den nächstgelegenen Arbeiter erschlagen. Ein "Durchdrehen" im sozusagen mechanischen Sinne also. Aber ein "Durchdrehen" im menschlichen Sinne, also dass die - jetzt natürlich als superintelligent gedachte KI-Einrichtung - plötzlich alle Menschen als Feinde ansieht und "wild um sich schlägt", ist schwer vorstellbar.
Jedenfalls bräuchte es dazu wohl irgendeine Art von "inneren Antrieben", die losgelöst von der "rationalen" Oberfläche des Systems plötzlich aktiviert und zum handlungsbestimmenden Faktor werden müssten. Oder aber jeder (maschinellen) Vernunft vorgeschaltete Ur-Bedürfnisse, deren Verletzung oder Missachtung dann den Übersprung in die menschenfeindlichen Handlungsweisen auslösen würden.
Bei Menschen fällt es uns leicht, solche Ur-Bedürfnisse auszumachen. Nahrung, Schlaf, aber auch Behausung als Schutz vor Witterung zählen sicherlich dazu. Aber hat ein IT-System so etwas? Gewiss braucht es Strom, aber schon Stanislaw Lem machte sich in seinen "Robotermärchen" einen Scherz daraus, von Robotern, die "trunken vor Elektrizität" allerlei Unsinn anstellten, zu schwadronieren. In Wirklichkeit hat ein Computer natürlich nichts von Überspannung, diese könnte im Gegenteil schlimmstenfalls die Schaltkreise zerstören.
Eine ebenfalls starke Motivation ist beim Menschen die Angst vor dem Tod. Stromlosigkeit wäre das Äquivalent beim IT-System, aber wer hätte je von einem Computer gehört, der z.B. vor dem Ausschalten Protest verkündet?
Die meisten anderen denkbaren Motivationen sind solche, die sich auf eine - wie auch immer geartete - Anerkennung durch die Mitmenschen beziehen, etwa Lob für geleistete Arbeit. Auch sexuelle Anziehung lässt sich als Spielart der Anerkennung durch andere beschreiben. Aber unsere aus Silizium und Kupfer bestehenden IT-Systeme besitzen offensichtlich kein Sozialleben, und damit erscheint eine Entartung in Richtung eines Machtwahns auch unwahrscheinlich.
Eine andere Frage ist, ob man einem KI-System nicht sozusagen eine Simulation solcher Emotionen einprogrammieren könnte. Vielleicht könnte man auch eine Art Elektronen-Macchiavelli herbeiprogrammieren, wer weiss? Allerdings: Wozu sollte man das tun? Mehr Geld verdienen wird man durch eine Maschine, die potentiell irgendwann alle kommerziellen Ziele ignoriert, wohl kaum. Aber als von konkreten Firmen oder Personen benutztes Instrument, welches a la Skynet nun zwar mehr nicht die ganze Menschheit, sondern "nur" die jeweils als Feinde markierten Menschen oder Gruppen vernichten soll, lässt sich KI schon vorstellen - bzw. wird sie schon eingesetzt, wie nicht nur das GOSPEL-System der israelischen Streitkräfte zeigt
7. "Do androids dream of electric sheep?"
Die schon vor Jahrzehnten im gleichnamigen SF-Klassiker von Philip K. Dick aufgeworfene Frage werden wir also nicht beantworten können. Aber möglicherweise geht es im neuesten Wälzer von Harari ja gar nicht um elektrische Schafe, sondern um menschliche - darum, den Lesern die wirklichen Probleme im Umgang mit KI zu vernebeln und im gleichen Zug die aktuellen "Lösungen" der globalen Eliten schmackhaft zu machen. Eine dieser Lösungen haben wir schon gestreift, nämlich die ZENSUR, die unser Autor zwar nicht beim Namen nennt, aber offensichtlich zur Bekämpfung der "Verschmutzung der Informationssphäre" für nötig hält. Darüber, wer auf welcher Grundlage was für "Informationsschmutz" erklärt, scheint sich Harari keine grossen Gedanken zu machen. Sein Vertrauen in die diesbezüglich tonangebenden Konzerne ist ungebrochen: "Wenn sich die Tech-Giganten die Entwicklung besserer Algorhytmen vornehmen, dann gelingt ihnen das in der Regel auch." Da fügt es sich gut, dass die Regierungen des "freien Westens" sich oft auf eine beidseitig angenehme Arbeitsteilung mit jenen Tech-Konzernen geeinigt haben: Die Regierung oder regierungsnahe NGOs als "Faktenchecker" oder "trusted flagger" kennzeichnen die unerwünschten Informationselemente, während die Tech-Konzerne im Rahmen des "Hausrechts" auf ihren Plattformen (Facebook, Youtube etc.) die Inhalte sperren oder löschen. Die Regierung entledigt sich des Vorwurfs, selbst Zensor zu sein, und die Tech-Konzerne sonnen sich in der Aura der Verteidigung der "Wahrheit".
Neben dieser Zensur-Option, die sich mit KI sicher viel "effizienter" wird bewältigen lassen, gibt es aber noch zwei viel grundsätzlichere Probleme, und diese werden - soweit ich das erkennen kann - von Harari nicht einmal gestreift.
Denn diese typischerweise auf grossen Computersystemen beheimateten KI-Systeme sind ja genau nicht irgendwie von aussen hereingeschneite "Intelligenzen", sondern wurden von bezahlten Technikern im Auftrag der Konzerne erschaffen. Und sie sind eben EIGENTUM dieser Firmen und können von diesen nach Belieben modifiziert, expandiert oder auch abgeschaltet werden. Damit ist jeder Text, jeder "Ratschlag" den diese Systeme erstellen oder geben, in höchstem Masse von den Interessen der Eigentümer beeinflusst oder zumindest beeinflussbar.
Wer also bisher schon Angst hatte, dieser oder jener Journalist oder Wissenschaftler könne "gekauft" sein, müsste bei allen KI-Ausgaberesultaten noch weit kritischer sein. Die allgemeine Werbung für KI in den Medien und eben auch das Buch unseres Autors vermitteln dagegen ein Bild von Neutralität und unparteiischer Beurteilung. Da die Systeme bei - von Eigentümerseite aus gesehen - unkritischen Anfragen auch tatsächlich mehr oder minder *8 unparteiische Ausgaben liefern werden, wird das die unkritischen Nutzer (die "Schafe") in ihrer Haltung bestätigen, dass diese Systeme doch ganz in Ordnung sind - so wie es ähnlich bei Wikipedia schon lange funktioniert.
Die EIGENTUMS- und damit die MACHT-Frage wird bei Yuval Noah Harari - wie schon bei HOMO DEUS - eben nicht gestellt *9. Stattdessen werden wir mit Anekdoten aus den napoleonischen Kriegen unterhalten - Ablenkung statt Aufklärung also.
8. Von Yuval zu Britney und zurück
Beim Titel dieses Textes habe ich mich von dem von Britney Spears gesungenen Popsong "Oops, I did it again" inspirieren lassen. Im Unterschied zum Liedchen, dass von den harmlosen amourösen Eskapaden eines Highschool-Mädchens handelt, sind die intellektuellen Eskapaden des Herrn Harari von ganz anderem Format. Denn hier haben wir es meines Erachtens mit bewusster Irreführung bei einem durchaus wichtigen Thema zu tun.
Andererseits ist Harari auch zu bedenkenswerten Vorschlägen fähig. Ein Zitat aus dem Economist-Artikel von 2023:
> And the first regulation I would suggest is to make it mandatory for ai to disclose that it is an ai. <
Ein AI- oder KI-System soll also bei allen Ausgaben kenntlich machen, dass das Produkt eben KI-generiert ist. Ein durchaus leicht umzusetzender Vorschlag - man könnte festlegen, dass in allen AI-Texten jeder Punkt am Satzende durch die Floskel "Dieser Text ist von KI erzeugt / This text was generated by AI" ersetzt wird. Ähnlich bei Bildern, die - ähnlich wie es Fotoagenturen in ihren Bildvorschauen schon heute halten - mit einem entsprechenden Wasserzeichen versehen werden müssten. Dem Einwand, dass ein menschlicher Nutzer z.B. die Texteinschübe mit jedem handelsüblichem Textverarbeitungsprogramm rückgängig machen könnte, ist wie folgt zu entgegnen: Ja, natürlich kann er das machen. Aber er wird damit bewusst gegen eine gesetzliche Vorschrift handeln, die gegebenenfalls auch geahndet werden kann. Damit wird dieser Art Plagiarismus dann doch ein gewisser Riegel vorgeschoben.
Apropos Plagiate: Zumindest die literarisch gedachten Ausgaben der KI-Systeme sind letztlich Resultate einer gigantischen Plagiats-Operation, denn die Texte, mit denen diese KI's "angelernt" wurden, sind ja i.d.R. mitnichten von den ursprünglichen Autoren für solche Zwecke freigegeben worden.
- - -
Harari wäre nicht Harari, wenn er seinen oben zitierten Vorschlag nicht zwei Sätze später schon wieder selbst entwerten würde. Denn er endet den Text wie folgt:
> This text has been generated by a human.
Or has it? <
(17.11.2024)
*1 "AI has hacked the operating system of human civilization" kann man übersetzen mit "KI (Künstliche Intelligenz) hat das Betriebssystem der menschlichen Zivilisation unterwandert"
*2 "Nexus", Verlag Penguin Random House"
*3 Momentan in der ARD-Mediathek abrufbar.
*4 "The Guardian vom 1.12.2023: "'The Gospel': How Israel uses AI to select bombing targets in Gaza""
*5 Das in Deutschland übliche "KI" für "Künstliche Intelligenz" wird im Englischen zur "AI", der "Artificial Intelligence".
*6 Auf einer wohl eher an weibliche Leser gerichteten Webseite fand ich die womöglich umfassendste Erweiterung: "What does LGBTIQCAPGNGFNBA stand for? LGBTIQCAPGNGFNBA definition is Lesbian, Gay, Bisexual, Transgender, Intersex, Questioning, Curious, Asexual, Pansexual, Gender Nonconforming, Gender-Fluid, Non-Binary, Androgynous." Vielleicht sollte man eher zur Abkürzung QWERTY übergehen, die im englischen Sprachraum für eine Tastatur, also ALLE Buchstaben, steht. Andererseits mag es ja spassig sein, immer neue Buchstabensuppen zusammenzurühren...
*7 "Wir begegnen gerade einer fremden Intelligenz, hier auf der Erde." Dazu muss man anfügen, das "alien" im Englischen ganz unschuldig "fremd" bzw. "Fremder" heissen kann, aber spätestens mit dem "Alien"-Film von 1979 auch für möglicherweise extrem gefährliche ausserirdische Wesen steht.
*8 Der Wikipedia-Kritiker Markus Fiedler hat dazu gerade ein interessantes (und unterhaltsames) Experiment gemacht, siehe hier.
*9 Wieder muss ich die Einschränkung machen, dass mein Urteil nur auf den genannten Quellen beruht. Allerdings finde ich auch im Inhaltsverzeichnis keinen Hinweis darauf, dass er sich mit diesen so wesentlichen Fragen beschäftigen würde.
