Kann die KI Jacques Ellul verstehen?
“Die Technik hat an sich eine Reihe von Konsequenzen, stellt eine bestimmte Struktur und bestimmte Anforderungen dar und führt zu bestimmten Veränderungen des Menschen und der Gesellschaft, die sich aufdrängen, ob wir es wollen oder nicht. Sie geht von selbst in eine bestimmte Richtung. […] Um diese Struktur zu ändern oder diese Bewegung in eine andere Richtung zu lenken, bedarf es einer immensen Anstrengung, das in den Griff zu bekommen, was man für beweglich und lenkbar hielt, es bedarf der Bewusstwerdung dieser Unabhängigkeit des technischen Systems, der die beruhigende Überzeugung der technischen Neutralität entgegensteht.”
Jacques Ellul
“Die letzten Monate haben gezeigt, wie sich die KI-Labore in einem unkontrollierten Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Gehirne verstrickt haben, die niemand – nicht einmal ihre Schöpfer – zuverlässig verstehen, vorhersagen oder kontrollieren kann”. So lautete die Einleitung des Moratoriums [1], das am 22. März dieses Jahres unterzeichnet wurde und eine sechsmonatige Pause für die KI-Forschung nach dem Aufkommen von ChatGPT und generativen KIs vorsieht. Renommierte Wissenschaftler, Größen des Silicon Valley und der KI-Forschung, von Turing-Preisträger Yoshua Bengio über Steve Wozniak [Apple] bis hin zu Stuart Russell und Elon Musk [Twitter], Experten, Akademiker, Ingenieure – viele haben ihre Unterschrift geleistet. Dieses Moratorium, über das in den Medien ausführlich berichtet wurde, verlängert auf zweideutige Weise bestimmte Sorgen in der Gesellschaft bezüglich der künstlichen Intelligenz durch eine Form der Übertreibung, des millenaristischen Wahns: “Sollen wir nicht-menschliche Geister entwickeln, die eines Tages zahlreicher und intelligenter sein, uns überflüssig machen und ersetzen könnten?”
Diese Petition ist ein Echo des Konzepts der technologischen Singularität: jenes Ende des letzten Jahrhunderts theoretisierte Moment, in dem die KI Autonomie eine Form von Bewusstsein erlangen würde. Zu einer “Intelligenz”, die dem Menschen überlegen ist, was wiederum zu einer technologischen Entwicklung führt, die der Mensch nicht mehr beherrschen kann. [2]
Es stellte sich auch eine ziemlich neue Frage: Wie sollte man sich nun, nachdem man den akzeptierten Diskurs über eine KI mit utilitaristischen Zielen aufgelöst hatte, gegenüber dem Diskurs über eine Technologie positionieren, der man nicht einmal mehr trauen kann, weil sie selbst in den Augen ihrer Schöpfer unverständlich geworden ist?
Initiiert von KI-Forschern und -Ingenieuren – und für den Fall, dass man es nicht richtig verstanden hat – wurde Ende Mai eine neue Petition gestartet, deren Form selbst Fragen aufwirft – ein einfacher Aufruf: “Mitigating the risk of extinction related to AI should be a global priority at the same level as other social risks such as pandemies or nuclear war.”
Diese Erzählung von einer intelligenten Maschine, die sich gegen den Menschen wendet, diese Science-Fiction-Übertreibung entschärft in gewisser Weise jeden rationaleren Ansatz, der sich auf eine Technikkritik beschränkt und in der KI ebenfalls nur eine Form der Versklavung sieht, eine zukünftige Disqualifizierung des Menschen durch diese Technologie. Der Mythos fegt alles hinweg.
Das Gefühl, das sich einzuschleichen scheint, ist nun auch das seltsame Gefühl, in einer Science-Fiction-Welt zu leben, die in ihrem Inneren ihre eigenen Codes instrumentalisiert. Eine Art Meta-Erzählung, die keine Science-Fiction im eigentlichen Sinne ist, sondern eher ein diffus eingeflößtes Science-Fiction-Simulacrum, das einen dystopischen Horizont verdeckt, der durchaus greifbar und real ist.
Wir müssen auch zwischen Science-Fiction und Dystopie, Genre und Subgenre unterscheiden, um klarer zu sehen, wie sich diese beiden fiktionalen Genres hier gegenseitig nähren und durch Abyme auf die Realität einwirken, in einer Meta-Erzählung, in der wir nur so tun, als würden wir mit ihren Codes spielen.
Die Singularität ist der falsch verstandene Frankenstein-Mythos: Die prometheische Allegorie wird zugunsten eines Glaubens an die Allmacht der Technik eliminiert, was ein völliger Widerspruch zum Mythos ist.
Aber vielleicht ist es wichtig, hier, in Umkehrung dieses Millenarismus, die Singularität nicht als phantastische Projektion einer möglichen Zukunft, sondern als Allegorie unserer Gegenwart selbst neu zu verorten, ihr diese metaphorische Bedeutung wiederzugeben (und sich so diese Erzählung wieder anzueignen).
Der “Mythos” der künstlichen Intelligenz spiegelt nämlich sehr stark die Frage wider, die Jacques Ellul im letzten Jahrhundert über den Platz der Technik in unseren Gesellschaften gestellt hat. Dieser Mythos spiegelt selbst ein Undenkbares wider. Er ist auch ein mögliches Jenseits des von Ellul so präzise beschriebenen “technischen Systems” (1977), eine Materialisierung der Befürchtungen, die er bereits in der Einleitung dieses Buches antizipiert hat. Dieser Mythos der KI materialisiert im Negativen das Risiko einer utopischen Gesellschaft, eines durch Technik geschlossenen Systems: eine “Megamaschine”, in der das Individuum selbst, die sozialen Beziehungen, ebenfalls durch technische Prinzipien geregelt werden, die durch Technik ersetzt werden können (d. h. letztlich auf Simulakren reduziert werden).
TECHNIK UND MYTHOS
Die “aufgeklärteste” Sichtweise auf die KI – ob kritisch oder nicht – neigt im Allgemeinen dazu, den Mythos zu vernachlässigen, diese Frage einfach aus dem Weg zu räumen. Wenn die KI die Erfüllung dessen sein soll, was die Science-Fiction angekündigt oder “prophezeit” hat, dann hat sie in Wirklichkeit nicht viel mit dieser millenaristischen Vision zu tun. Ein Übermaß an Rationalismus führt auch dazu, dass man technische Phänomene nur noch für sich betrachtet. So ist die Versuchung immer groß, den Mythos zu einer bloßen Phantasie zu degradieren und die mythische Konstruktion zu verbergen, die das zusammenhält, was sonst mit der KI nur noch wie eine Ansammlung von Techniken und Anwendungen aussehen würde, die keinerlei Verbindung und Grundlage mehr haben.
Erst durch ihre ambivalente Beziehung zum Mythos verstehen wir, was künstliche Intelligenz ist. Bevor ich also auf Jacques Ellul eingehe (der sich stets bemüht hat, die Überzeugungen und Mythen unserer Zeit aufzuzeigen) [5].
So gibt es selbst bei einigen der eifrigsten Befürworter der KI die Überzeugung, dass Mythos und Technik voneinander getrennt werden sollten. Die technische Effizienz der Künstlichen Intelligenz wäre schließlich der eigentliche Beweis für ihre Rationalität, die außerhalb jedes Glaubenssystems angesiedelt ist. Die irrationalen Erwartungen und Ängste rund um die KI hätten nur die Funktion, privaten Interessen zu dienen, sie wären lediglich parasitär, wenn sie nicht sogar eine Art Technofolklore nähren (die KI ist in der Tat nicht weit entfernt von einem Jahrmarktsphänomen, einem Taschenspielertrick).
Aber die einfach technizistische Sichtweise [ich verwende diesen Begriff hier eher als utilitaristisch im etwas veralteten Sinne] [6Es nützt übrigens nichts, die Anspielung auf die Einzigartigkeit der oben erwähnten Petitionen zu diskreditieren, sie auf einen einfachen Marketing-Gag zu reduzieren, auch wenn sie natürlich auch das ist (die Andeutung einer so mächtigen … allmächtigen Technologie): Die Mehrdeutigkeit des Mythos schlägt zu. Was er uns verrät, ist nicht die zweitrangige Frage nach der Macht, die man der Maschine verleiht – und die es einfach zu regulieren gilt -, sondern die verwickeltere und komplexere Frage nach der Sakralisierung der Technik (von der die Frage nach der Macht, die man an die KI delegiert oder nicht, abhängt).
Im Gegensatz zum Mythos der Singularität, der eine Extrapolation davon ist, bleibt der Mythos der künstlichen Intelligenz, der von der Science-Fiction-Vorstellung genährt wird, bei der Hypothese, dass in der “Maschine” eine Form von Bewusstsein entstehen könnte. Mit diesem Mythos werde ich mich hier zunächst befassen.
Aber so wie die Singularität jede Technikkritik von vornherein zu entkräften schien, scheint es hier ebenso problematisch zu sein, sich auf eine Dekonstruktion des Mythos zu beschränken: Einerseits wirken alle Argumente gegen ihn für ihn, da dieser Mythos zunächst den Reiz einer Phantasie oder eines falschen Scheins hat (mythifizierende und entmythifizierende Diskurse tendieren so dazu, sich zu vermischen [7].
Auch wenn dieser scheinbare Widerspruch den Mythos der Analyse entzieht, sind Mythos und technischer “Rationalismus”, wie wir sehen werden, hier in Wirklichkeit das Produkt des anderen: Sie durchdringen sich gegenseitig, amalgamieren sich in ein und demselben Glauben an die Allmacht der Technik.Aus diesem scheinbaren Widerspruch zwischen Mythos und Technik baut sich die künstliche Intelligenz auf, und diese Beziehung zwischen ihnen macht es möglich, diese Technologie zu erfassen, anstatt abwechselnd den Mythos oder die Technik isoliert zu behandeln.
“Es ist nicht mehr die Technik, die untergeordnet ist, sondern sie ist es, die die wissenschaftliche Forschung bestimmt.” (ST, S. 273) beobachtet Jacques Ellul. Heidegger, ein anderer Denker der Technik, den Ellul nicht schätzte, hatte die gleiche Feststellung getroffen: “Die Technik (…) geht nicht aus der Wissenschaft hervor, im Gegenteil, es ist die Wissenschaft, die aus der Technik hervorgeht und die gewissermaßen ihr bewaffneter Arm ist.” Mit dieser Entwicklung scheinen Wissenschaft und Technik tatsächlich eins zu werden (die Dominanz der Technik ist wichtig, aber wir werden sehen, dass es die Ambivalenz dieser Kopplung selbst ist, aus der die KI ihre Substanz, ihre Dynamik bezieht).
Als Wissenschaft oder Forschungsgebiet ist die Künstliche Intelligenz prometheisch, als Technik hat sie nicht diesen vorbestimmten Sinn. Denn was haben GPS und ChatGPT, Melanom-Erkennungstechniken und autonome tödliche Waffensysteme [SALA] miteinander zu tun, außer dass sie KI verwenden? Was hat das alles mit dem Mythos zu tun?
Die Fülle an KI-Technologien macht es auf den ersten Blick schwierig, diesen Begriff zu definieren. Da KI in der Regel stufenweise in drei vordefinierten Stadien erfasst wird: schwache, allgemeine und starke KI. Die schwache KI ist die, die wir kennen, der Begriff führt zu Automatisierung und einer Form von technologischer Komplexität (Entscheidungshilfe, Neurowissenschaft, Erkennungssysteme, komplexe statistische Modelle usw.); die allgemeine KI [GK], eine Simulation der menschlichen Intelligenz (emotionale Informatik, kognitive Simulation, des Denkens, der Sprache usw.). ); die starke KI, die in einer hypothetischen Zukunft angesiedelt ist und einen Mythos darstellt, der der Schaffung einer echten künstlichen Intelligenz entspricht (Intelligenz, die der menschlichen Intelligenz entspricht oder diese übertrifft, Autonomie; ist mit der GAI identisch, aber hier wird der Begriff des Bewusstseins eingeführt).
Diese Typologie ist natürlich nur insofern von Interesse, als sie in den Kreisen der KI-Ingenieure und -Designer ein Echo findet, was die technischen und theoretischen Herausforderungen betrifft (die Arbeiten an Sprachmodellen drehen sich beispielsweise alle um die IAG). Dem könnte man entgegenhalten, dass der Techniker, die Technik, die “die Forschung bestimmt”, die nur ein Mittel (eine Macht) ist, niemals, in der Realität, sich so allgemeine Ziele setzt: Die künstliche Intelligenz wäre sogar, wenn man genauer hinschaut, nur die Summe dieser verschiedenen Seitenwege.
Hier zeigt sich die ganze Zweideutigkeit der Technik, von der die KI profitiert. Die KI ist, wie wir sehen werden, nur das Produkt einer falsch verstandenen Denaturierung der Technik durch den Mythos (und es ist daher sinnlos, sie vom Mythos isolieren zu wollen). Die KI-Technologien haben, im Gegensatz zu diesem technischen “Ideal”, ihre eigene, ganz besondere Struktur oder Logik.
Wir könnten bereits eine erste Klasse von KI unterscheiden, die an andere, bereits komplexe technische Systeme gekoppelt sind: Einsatz bei der Herstellung von Computerprogrammen und -werkzeugen, logistischer Einsatz (Verwaltung von Warenströmen und Lagerbeständen in der Industrie, im Transportwesen usw.), Automatisierung bestimmter Aufgaben in technisch anspruchsvollen Umgebungen, KI, die selbst an der Entwicklung künstlicher Intelligenzen beteiligt sind usw. Die KI ist in der Lage, sich selbst zu entwickeln.
Automatisierung, Effizienz, technologischer Einfallsreichtum – man kann sich bei dieser Verwendung der KI, die die unsichtbarste (und am wenigsten umstrittene) bleibt, fragen, was sie wirklich auszeichnet. Hier entfernt sich die künstliche Intelligenz als reine Technik scheinbar so weit vom Mythos, dass sie einen grundlegenden Aspekt davon offenbart: die Ermächtigung.
Da sie sich in bereits autonome technische Systeme (Logistik, komplexe Umgebungen) einfügt, die der Mensch nur schwerlich in die eine oder andere Richtung verändern oder beeinflussen kann, scheint diese Verwendung der KI im Grunde nur eine allgemeine Tendenz zu bestätigen.
Bei der Schaffung von Informatikwerkzeugen, insbesondere bei der Schaffung von KI durch KI, stellt die Autonomisierung die “kreative” Geste des Informatikers selbst in Frage: Die Idee der Informatik selbst führt zu einer Form der Autonomie (der Programme, der Systeme), aber überlässt der Informatiker hier gewissermaßen der Maschine die Kontrolle? Oder treibt er ein solches Computersystem dazu, sich noch mehr zu verselbstständigen? Ähnlich im Fall der Schaffung von KI durch KI: Drängt er diese Technik zu einer Form der Autonomie, oder gibt es nicht bereits eine “natürliche” Tendenz der Computertechnik, sich zu verselbständigen? Es scheint hier eine Mischung aus beidem zu sein, genauer gesagt füllt der KI-Informatiker das aus, was die Technik ihm vorenthält (d. h. die Technik entgleitet ihm sehr schnell), indem er diese Technologie mit einer virtuellen, zukünftigen Macht ausstattet: Es wird ein Vokabular mobilisiert, die so konzipierte KI wird “Kind” genannt (das von Googles AutoML generierte Nasnet-System), und man stellt sich vor, dass sie selbst in der Zukunft andere KI-Modelle in ihrer Macht inspirieren könnte (es wird dazu aufgerufen, dass andere Entwickler sich dieser Technologie bemächtigen und sie perfektionieren [8].
Die KI-Technologie ist hier also eine Möglichkeit, eine Technik (die Informatik), deren Eigenart bereits darin besteht, sich zu verselbstständigen, in Richtung Autonomisierung zu lenken. Darüber hinaus wird sie durch die Projektion des Menschen auf das technische Objekt eine besondere Bedeutung erhalten.
Die Technik wird nicht mehr als Mittel zur Macht verstanden, sondern als Macht an sich (wie es in gewisser Weise auch Feuer oder Elektrizität sein könnten). Die KI-Forschung systematisiert diese Autonomisierung auf zweideutige Weise und erhebt die Technik zum Subjekt. Sie verspricht auch ein ständiges Machtverhältnis, vom Menschen zur Technik und von der Technik zum Menschen (siehe zu diesem Problem den Begriff der “Ausrichtung der künstlichen Intelligenz”, auf den ich am Ende dieses Artikels zurückkomme).
Eine nach der anderen betrachtet, erscheinen die KI-Technologien nur als für einen bestimmten Anwendungsbereich bestimmt, mit einem inneren Grund, der ein bestimmter Grad an Effizienz ist, und in der Tat ist jede als Technik sich selbst genug, ohne sich mit dem Mythos zu belasten. Dennoch sind sie nicht unabhängig voneinander, sondern bilden ein “System”. Dieses System, das wir der Einfachheit halber als das der künstlichen Intelligenz bezeichnen, lenkt sie in eine bestimmte Richtung, sowohl in Bezug auf die angewandten Methoden (Deep Learning, neuronale Netze, ein ganzes Lexikon) als auch auf die angestrebten Ziele (z. B. die oben erwähnte Selbstermächtigung).
Daraus entsteht die Verwirrung, wenn man von künstlicher Intelligenz spricht: Für manche ist sie unberührt, wie vom Mythos befreit, es gibt nur Techniken (meist mit der Idee der Neutralität der Technik, die “nur vom Gebrauch abhängt, den man von ihr macht”).
Aber warum wird dieser Begriff dann überhaupt verwendet? Und was würde in diesem Fall KI-Forschung bedeuten?
Schauen wir uns also an, was diese Forschung ist und was genau der Ursprung dieses Mythos ist.
Das Konzept der künstlichen Intelligenz ist zeitgleich mit der Erfindung des Computers entstanden. Es ist auffällig, wie sehr seit den 1950er Jahren und der Entwicklung dieses Konzepts, bevor irgendeine Technik diese Hypothese auch nur ermutigte, der Ehrgeiz eindeutig demiurgisch, prometheisch war: Die Forschung blieb im theoretischen Bereich, und der Optimismus der Pioniere, von Alan Turing über Allen Newell und Herbert Simon bis hin zu Marvin Minsky, machte eine KI mit Fähigkeiten, die der menschlichen Intelligenz ähnlich oder überlegen sind, zu etwas, das in weniger als einer Generation denkbar wäre [9]. Auch heute noch, wenn man davon ausgeht, dass die KI-Forschung keine praktischen Ziele (Anwendungen) mehr verfolgt, würde die demiurgische Idee mit aller Deutlichkeit erscheinen.
Das metaphysische, prometheische Projekt, die Frage nach dem Bewusstsein und der Zugang zu einer Form des Computerbewusstseins sind somit die Grundlage der KI-Forschung.
Der berühmte Turing-Test, dialektifiziert dieses Problem des Bewusstseins [10]. Diese Nachahmung [Turings “Spiel der Nachahmung”] der menschlichen Intelligenz induziert eine Form des Illusionismus. In Turings Vorstellung erfolgt das Lernen im Wesentlichen durch Nachahmung. Dieses mimetische Lernen ist bei Kindern mit Affekten verbunden, doch bei Turing erscheint es als reiner Schein. Doch die Nachahmung ist in Wirklichkeit nur eine mathematische Äquivalenz, eine Übersetzung in eine Computersprache. Wenn man bedenkt, dass die Operation in erster Linie eine technische Operation ist, scheint das Simulakrum nur ein indirekter Effekt dieser Operation zu sein, die dennoch auf eine Zerstörung des Symbolischen (hier der Sprache) hinausläuft. Das Simulakrum ist hier weder Figuration noch Illusion, sondern eine Art und Weise, das Existierende über eine Berechnung zu verschlüsseln, d. h. es buchstäblich von jeglicher Materie oder Substanz zu entleeren.
Das Aufkommen der Kybernetik, das zeitgleich mit der Entwicklung des Konzepts der KI stattfand, machte die Idee einer vollständig technisierten Wissenschaft populär, die nur noch auf technische Techniken und Argumentationen zurückgreift, um ihre Theorien zu entwickeln, zu testen und zu validieren. In diesem Sinne scheint die wissenschaftliche Theoriebildung der künstlichen Intelligenz – Intelligenz, die mit einer Berechnung oder einem Computerprogramm gleichzusetzen ist – von Anfang an nichts anderes als eine technische Herausforderung zu sein: Der theoretische Aspekt wird durch den technischen und dann den praktischen Aspekt ersetzt, die jedoch immer noch eine wissenschaftliche, experimentelle Färbung aufweisen.
In dieser wissenschaftlich-technischen Kopplung gibt die Wissenschaft jedoch einen Impuls, sie macht künstliche Intelligenz zu einem Forschungsbereich, vereint die verschiedenen Technologien der KI und gibt ihnen eine Richtung vor (über die Hybridisierung der technischen Verfahren hinaus geht es darum, eine Synthese zu erreichen), ebenso wie sie die verschiedenen wissenschaftlichen Korpora im Zusammenhang mit diesem Forschungsbereich vereinheitlicht (die so auf eine technische, funktionalistische Auffassung ausgerichtet sind).
Der prometheische Mythos der KI ist das Produkt dieser Technowissenschaft, dieser von der Technik vereinnahmten Wissenschaft – das von der Technik geraubte Feuer. Intelligenz als Computerprogramm. Technik und Forschung ziehen eigentlich keine Grenzen, und insofern ist die Technik vom Mythos durchzogen: Sie hat diesen doppelten, evolutionären Charakter.
Die KI ist eine Projektion des Menschen auf das technische Objekt (der anthropomorphe Mythos), ebenso wie eine Projektion der Technik auf den Menschen (die Gehirn-Maschine als Postulat). Diese beiden untrennbaren, wenn auch scheinbar gegensätzlichen Auffassungen entsprechen sich spiegelbildlich.
Vom theoretischen, metaphysischen Gegenstand bis zur technischen, praktischen Anwendung ist es allerdings schwierig, dem logischen Faden zu folgen. Wenn künstliche und menschliche Intelligenz theoretisch auf ähnliche Weise funktionieren, stellt sich die Frage, was künstliche Intelligenz für den Menschen zu einer Technik machen könnte. Wie könnte er sie nutzen?
Diese Frage stellt der Denker John Searle, die man nicht als philosophische, sondern als praktische Frage des gesunden Menschenverstandes verstehen sollte: “If we are to suppose that the brain is a digital computer, we are still faced with the question, ‘And who is the user?'”.
Intelligenz als mathematische Operation, als etwas Verschlüsselbares, Manipulierbares (durch eine Computersprache) zu begreifen, bedeutet, unsere Beziehung zum Werkzeug in diesen Prozess der Verdinglichung einzuschreiben. Die Herstellung von Werkzeugen, die wir benutzen werden, ist in der Tat nicht dasselbe wie die Herstellung von Werkzeugen, die unsere Intelligenz widerspiegeln sollen. Die Beziehung zum Werkzeug ist nicht mehr dieselbe und wird reflexiv. Der Mensch beobachtet und projiziert sich selbst durch dieses technische Prisma.
Die ganze Frage der KI, der KI-Forschung, lässt sich eigentlich auf diese anfängliche Weigerung reduzieren, unsere Beziehung zu dieser Technik zu reflektieren. Als reines demiurgisches Delirium wird sie im Idealfall zu einer Technik ohne Nutzung, zu einer Geisteshaltung. Oder sie wird konkret, in den Anwendungen, die für sie gefunden werden, den Menschen schließlich durch dieses einfache Spiegelbild in einen verdinglichenden Prozess verwickeln. Die große Frage nach dem Ersatz, die eine Scheinfrage ist, ergibt sich direkt aus dieser anfänglichen Perspektivlosigkeit in Bezug auf die Verwendung der KI-Technologie, die zunächst als metaphysisches Objekt, als potentielle Technik oder als reine Macht begriffen wurde.
Als leere, illusorische Struktur, die als einfache Berechnung aufgefasst wird, besteht in Wirklichkeit eine Identität zwischen dem Modell (der menschlichen Intelligenz) und seiner Übersetzung in eine Computersprache: Nachdem sie in den technischen Bereich übergegangen ist, wird die künstliche Intelligenz selbst zum Modell, sobald dieser oder jener Prozess formalisiert wurde. Sie wird modelliert, ebenso wie sie modelliert.
Das Prinzip der “erweiterten” Intelligenz durch künstliche Intelligenz wird selbst einen Reduktionismus der menschlichen Intelligenz als Technik oder Berechnung voraussetzen.
Die zweite Kategorie, die man aufstellen könnte, umfasst somit all jene KI-Technologien, die dazu tendieren, die menschliche Intelligenz zu modellieren. Sie stellen in gewissem Sinne die Kehrseite des Mythos dar.
Man kann diese verschiedenen Technologien, die verschiedenen Arten von KI, tatsächlich als Modelle begreifen. “KI ist das, was noch nicht gemacht wurde”, so der Forscher Douglas Hofstadter. Als evolutionäre Technologie ist die KI auch ein Trend, der der Idee folgt, dass die menschliche Intelligenz in eine Computersprache übertragbar, d. h. falsifizierbar ist. Daher zielt die KI auf eine Synthese ab (allgemeine KI oder starke KI): Zunächst muss man sie als etwas sehen, das im Gange ist, sich ständig weiterentwickelt (hier wird das “Mooresche Gesetz” [12] fortgesetzt).Empirisch gesehen zielt die KI-Forschung in dieser Idee der als Technik verstandenen Intelligenz darauf ab, unsere Denkweisen, unsere Fähigkeiten, wahrzunehmen, zu argumentieren, auszusprechen, zu kommunizieren, zu entscheiden usw., die in die Computersprache in Form von Aufgaben übersetzt werden, zu zerstückeln und dann wieder zusammenzusetzen [tasks] [13]. Viele Anwendungen, die zwar noch in den Kinderschuhen stecken, können als aus dieser Idee abgeleitet gesehen werden, wobei die verschiedenen Technologien der KI wie Fäden und Schnüre dieser marionettenhaften “Wissenschaft” darstellen.
Diese Idee, die die Grundlage der KI bildet und die auch die Idee eines Ersatzes des Menschen durch die Maschine für bestimmte Aufgaben ist, die der Computer schließlich besser oder effizienter ausführen würde, trennt diese Techniken in gewisser Weise absolut von unserer Beziehung zu diesen Techniken. Aber obwohl sie den Menschen ersetzen können, ist es immer noch der Mensch, der mit ihnen interagiert und sie auf eine wesentlichere Auffassung vom Menschen als Maschine zurückwirft: militärische Nutzung (autonomes tödliches Waffensystem (SALA), bei der Polizei (Prävention, automatisierte Identitätskontrollen, Verwaltung von Versammlungen, Überwachung etc. ), aber auch im Gesundheitswesen (Diagnose, Medizin als “Expertensystem”), in der Politik (Verwaltung) und im Recht (Beschleunigung und Vereinfachung von Gerichtsentscheidungen), in der Bildung (Modelle, kognitionswissenschaftliche Techniken), im Dienstleistungssektor (automatisierte Online-Hilfe), bei der Personalbeschaffung, in der Gesprächsführung etc. Diese Vorstellung von Intelligenz als Erfüllung einer Reihe von Aufgaben oder Berechnungen erstreckt sich in Wirklichkeit mit der KI potenziell auf eine unendliche Anzahl von Techniken, wobei der Mythos, ohne scheinbar eine direkte Verbindung zu ihm herzustellen, in einen rein technizistischen Diskurs eingreift.
So definieren beispielsweise Kaplan und Haenlein Künstliche Intelligenz als “die Fähigkeit eines Systems, externe Daten richtig zu interpretieren, aus diesen Daten zu lernen und dieses Lernen zu nutzen, um bestimmte spezifische Ziele und Aufgaben durch flexible Anpassung zu erfüllen.” [14] Das ist ein scheinbar ganz klarer und technischer Diskurs über KI als System, mit der Idee des Lernens (Machine Learning oder Deep Learning), der Anpassung und der autonomen Entwicklung, die eine Form von Intelligenz charakterisieren würden! Diese Minimaldefinition versucht, die KI auf ein Werkzeug zu reduzieren, das für eine bestimmte Anwendung bestimmt ist. Aber man wird diese Technologie natürlich nicht verstehen, wenn man nicht alle Anwendungen berücksichtigt, die die KI hervorbringt, und wenn man sie nicht als Macht an sich begreift. Es handelt sich dann nicht mehr um “spezifische Ziele und Aufgaben”, sondern im Gegenteil um ein sehr breites Feld von Anwendungen, die sich ständig weiterentwickeln und durch in jeder Hinsicht ähnliche Verfahren erzielt werden (das algorithmische “System” der künstlichen Intelligenz). Auch in dieser Definition hat die Anthropomorphisierung oder Personifizierung der Technik von vornherein keinen Anteil, sie erfolgt im Vorfeld durch einen Diskurs, eine Konzeptualisierung der technischen Werkzeuge [15), durch die Entwicklung anthropomorpher Technologien (z. B. durch den Umgang mit Sprache) und ganz allgemein durch die Ausrichtung der KI-Forschung auf die Ermächtigung. Dieser letzte Punkt ist zweifellos der wichtigste, und er hat den trügerischen Aspekt der reinen Technizität. KI ist ganz allgemein die Projektion von Macht in die Technik. Sie ist ein Glaube an die Omnipotenz der Technik [16].
Die KI ist ein ständiges Hin und Her zwischen Mythos und technischer Anwendung. Technischer “rationalistischer” und mythisierender Diskurs werden in Wirklichkeit unterschiedslos verwendet und verstärken sich gegenseitig auf dynamische Weise in der Vorstellung einer sich entwickelnden Technologie, die als solche immer unvollendet bleibt.
Die beiden oben erwähnten Kategorien der KI sind nicht wasserdicht, sondern bilden selbst ein System. Künstliche Intelligenz ist ganz allgemein eine Art und Weise, die Realität nach einem (von der Maschine technisch assimilierbaren) Standard oder einer Computer(re)programmierung zu ordnen. Sie liefert ein einheitliches, autonomes Modell, dessen Besonderheit darin besteht, dass es sich hier, im Bereich der Informatik, ungebremst verbreitet: KI im Finanzwesen (algorithmischer Handel, Marktprognosesysteme, die ihrerseits den Markt und die Wirtschaft beeinflussen), Algorithmisierung der Medien (Produktion und Vorschlag von Inhalten), automatisierte Übersetzung (gemäß der Idee einer einzigen Sprache, die auf eine Berechnung reduziert wird), Datenverwaltung (Extraktion, Auswertung), digitale Technologien (personalisierte Verwaltung, Moderation, Vorschlag von Inhalten), usw.
Die künstliche Intelligenz, die in ihrem ursprünglichen Prinzip (dem demiurgischen Horizont der “KI-Forschung”) stark charakterisiert ist, neigt in der Praxis dazu, sich so weit zu verwässern, dass sie mit dem gesamten Computersystem in einem allgemeinen Kybernetismus zusammenfällt. Ein kybernetisches Modell der Gesellschaft, das vom Mythos nur ein Spiegelbild bewahrt: das Bild, auf das der Mensch stößt und sich festsetzt.
Diese Technologien bleiben also meist unsichtbar, im Hintergrund. Als scheinbar rein technische Herausforderung in einem bereits stark technisierten Umfeld sind sie im weiteren Sinne Teil der Virtualisierung in unseren Gesellschaften, in denen der Mensch und die soziale Interaktion nur noch als technische Herausforderung wahrgenommen werden.
Das Prinzip der KI besteht nicht so sehr darin, den Menschen durch die Maschine zu ersetzen, sondern vielmehr darin, dass der Mensch sich wie eine Maschine verhält und handelt [der Denker Eric Sadin spricht von einer “injunktiven Wende der Technik”], dass die Gesellschaft als Ganzes technisiert wird, durch ein subtiles Spiel, das abwechselnd aus Normierung und Nachahmung besteht. Die KI führt unterschwellig zu einer technischen Darstellung unserer Gesellschaft, in der der Mensch dazu neigt, sich als digitale Quantität einzuschreiben (und in dieser Eigenschaft keine Bedeutung mehr hat).
Der Algorithmus – oder “intelligenter Agent” [agent-based model] im anthropomorphen Jargon der KI-Forschung – passt durch Deep Learning ständig die Aufgaben an, die er ausführen soll, aber auch die Darstellung der Umwelt [model-based agent], mit der er interagiert. Die Welt wird so zu einer Messung, einer Statistik in Echtzeit. Durch die Anhäufung von Daten optimiert die KI in einem technizistischen Sinne diese Darstellung (von sozialen Systemen oder Phänomenen, Verhaltensweisen usw.). Es liegt auch in der Natur dieses Systems danach, durch die technische Operation, die es durchführt, diese “Repräsentation” besser mit dieser Berechnung in Einklang zu bringen [17].
Das technische System ist nicht das der künstlichen Intelligenz, sondern das globalere System der künstlichen Intelligenz in einem gegebenen sozialen Umfeld, das es unmerklich dazu neigt, zu verändern, zu technisieren. Antoinette Rouvroy, die in dieser statistischen Organisation der Gesellschaft eine Form der “algorithmischen Gouvernementalität” sieht, analysiert gut die neue Ordnung, mit der wir es zu tun haben: die der Perpetuierung eines sozialen Modells, der technischen Macht (das Kapital ist in dieser digitalisierten Welt zur Anhäufung von Daten geworden [18],]von Emergenzen, einer kybernetischen Regulierung, die jede Form von Unfall vorwegnimmt und verbannt, durch granulare Analyse von Verhaltensweisen und Vorwahl. Es geht darum, “die Normativität an die Wildheit der Tatsachen anzupassen”, wobei diese algorithmischen statistischen Systeme sich auch ständig von Fehlern ernähren.
Wir befinden uns hier in einer Technologie des Reflexes, des Doppelten: eine Spiegelvorrichtung [Agamben] [20]. Die Zeit selbst wird zur Zeit des Computers, die unmittelbare, entnervte Zukunft wird von den Algorithmen verdoppelt. Mit dem algorithmischen Handel, der von künstlicher Intelligenz gesteuert wird, sagen die Algorithmen die Zukunft nicht voraus, sondern produzieren sie; das Recht ist potenziell nur noch eine Korrelation zwischen Fakten, statistische Verwaltung [21].
Rouvroy stellt fest, dass diese Algorithmen aufgrund ihrer Abstraktion schwer fassbar bleiben, da sie sich nicht mehr mit Individuen, sondern direkt mit Daten befassen (und somit nichts mehr mit traditionellen statistischen Systemen zu tun haben). Die Ermächtigung entzieht sich in einem Moment den Regierenden, dem technischen Kapitalismus. Sie ist nur noch ein Ausdruck der Ordnung, einer kybernetischen Organisation der Gesellschaft. Dieses algorithmische System der Gouvernementalität wird zu seinem eigenen Referenten.
Aber wenn dieser kybernetische Empirismus den Fehler berücksichtigt und ihn kontinuierlich in seinem System anpasst, bleibt das statistische Prinzip des Deep Learning am Ende unzuverlässig (die Grenze der auf Lebende angewandten Berechnung). Das Wichtige, das, was bleibt, ist im Grunde nur das Modell selbst, ein Spiegel, ein Spektrum oder ein technisches Prisma: dieses Regime des Scheins, das durch die Technik systematisiert wurde.
Je unsichtbarer sie werden, je mehr der Mythos zu verblassen scheint, desto effektiver sind die KI-Techniken (allerdings im Sinne der Normierung eines Systems: das seinerseits eine Vielzahl von Ausreißern erzeugt). Was die Technik erreicht, ist eine Form von kybernetischer Utopie, nicht die Figur des Androiden, die hier nur eine Nebenrolle spielt. In dieser Spiegelvorrichtung scheint die KI erst im Nachhinein ein Bild des technisierten Menschen zu reflektieren (ChatGPT hat in diesem Sinne nur ein Denken offenbart, das bereits technologisch unterstützt und wie teilweise robotisiert wurde, insbesondere in der Arbeitswelt – siehe das Problem des Journalismus und des Copy-and-Paste, um nur ein Beispiel zu nennen).
Aber der Mythos ist immer noch eine Einheit: Dem scheinbaren Verschwinden des Mythos dort, wo die KI dennoch am weitesten verbreitet ist, seiner Unsichtbarmachung im Computersystem, steht eine Inflation dieses Mythos in der kollektiven Vorstellungswelt gegenüber. Ein bestimmter, von Science-Fiction-Klischees geprägter Diskurs sowie die spektakulärsten Fortschritte in der KI-Forschung sorgen ihrerseits dafür, dass die künstliche Intelligenz in der gesellschaftlichen Vorstellung zu einer Erzählung und einem Horizont wird. Es handelt sich um eine schrittweise Konditionierung der Gesellschaft auf den Einsatz von KI (potenzielle Märkte, Ausweitung des Bereichs der algorithmischen Gouvernementalität usw.).
Die Inflation des Mythos verschleiert in einer doppelten Bewegung die allgemeine Entfremdung durch die Technik, wobei die KI unterschwellig dazu tendiert, mit dem gesamten Computersystem zusammenzufallen (die KI ist immer nur eine Personifizierung oder algorithmische Konzeptualisierung des Computers – siehe die Arbeiten von Turing). Diese Umkehrung ist das Gegenteil des prometheischen Traums der KI: Die Allmacht der künstlichen Intelligenz liegt letztlich nur in ihrer Effizienz als System, d. h. – weit entfernt von der Verwirklichung des demiurgischen, allmächtigen Geschöpfs – als Vorrichtung, die den Menschen mit einer Statistik gleichsetzt, die in dieses technische System integriert ist.
Jede Technik der KI stellt sich als Entmythologisierung dar und trägt in Wirklichkeit zur Herstellung des Mythos bei. Während sich die KI in unzählige Techniken aufzuspalten scheint, operiert die Forschung jedoch synthetisch (mit dem Mythos als Horizont). Diese sukzessiven Synthesen stellen die prometheische Idee der intelligenten Maschine in eine neue Perspektive. Sie entsprechen einem technischen Fortschritt, stellen sich zunächst als solche dar, aber immer mit dieser anthropomorphen Identifizierung (meist auf spielerische Weise, auf zweideutige Weise) [22].
.Die letzte Kategorie, die man unterscheiden könnte, ist die der heutigen Synthese, die der Sprachmodelle, die vor kurzem wie ChatGPT erschienen sind. Die eigentliche technische Funktion von Sprachmodellen ist nicht ganz klar. Zunächst erscheinen sie als Spielereien und wurden auch als solche verstanden. Die Spekulationen um diese Modelle sind bezeichnend. Sie wären für eine Vielzahl von praktischen Anwendungen und damit für eine Vielzahl von Techniken gedacht (die z. B. bei Arbeitsaufgaben oder beim Lernen eingesetzt werden können). Diese Modelle nähern sich dem Mythos (der IAG) [23]. Die KI ist nicht die Verwirklichung eines prometheischen Traums, und die technische Operation findet immer am Menschen statt: Die Effizienz dieser Sprachmodelle, die über die “Reduzierung” einer mit einer Aufgabe gleichgesetzten Arbeitszeit erfolgen würde, führt prinzipiell zu einer Verwechslung zwischen dem Menschen und seinem “Simulakrum”.
Abschließend sei noch auf das Problem hingewiesen, dass der Mythos der künstlichen Intelligenz, der eine Geisteshaltung bleibt, ein Problem darstellt: Würde er Wirklichkeit werden, würde die künstliche Intelligenz sofort aufhören, eine Technik zu sein. Eine wirklich autonome KI setzt per Definition voraus, dass sie nicht mehr auf eine Technik reduziert werden kann. Sie wird zu einem reinen Kunstwerk – einem Automaten, dessen Gebrauchsanweisung irgendwie verloren gegangen ist. Die Technik ist im Wesentlichen eine Operation oder Berechnung: eine Funktion, um ein Ergebnis zu erzielen. Die künstliche Intelligenz spielt durch ihren Autonomisierungsprozess also mit dem Gedanken, dass dieses Ergebnis irgendwann zweifelhaft werden könnte, ohne dass es noch einen weiteren Zweck gibt.
Die künstliche Intelligenz ist eine Virtualisierung der Technik. Sie ist die Technik an der Grenze, zieht ihre Substanz aus dieser Grenze. Würde der Mythos Fleisch werden, gäbe es einfach keine künstliche Intelligenz (als Forschungsgegenstand), keine mögliche Technik und keinen möglichen Gebrauch mehr.
Welche Rolle spielt dann der KI-Mythos, dieser technologische Millenarismus? Worauf läuft diese Identifikation des Mythos mit der Technik letztlich hinaus? Die KI geht weit über den alten Mythos des Fortschritts, der unaufhörlichen Vervollkommnung der Technik und der Wissenschaft hinaus. Dieses Phantasma, durch die Technik, eines Endes der Technik, offenbart hier einen Knoten. Diese Aporie des algorithmischen Werkzeugs, der Maschine, die sich vom Menschen emanzipiert und ein Bewusstsein erlangt, scheint nur die bodenständigere, spiegelbildliche Idee des Menschen, der selbst zur Technik wird, zu verdecken.
In Erwartung des Aufstands der Maschinen ist die künstliche Intelligenz im Grunde nichts anderes als eine Spiegeloperation am Menschen (der glaubt, er sei es an der Maschine).
Diese Idee des Gehirns als Maschine ist schließlich die erste, absurde Idee der künstlichen Intelligenz. Eine reine Geisteshaltung, die die Technik, die der dystopische Horizont dieser Technik ist, ständig zu aktualisieren scheint.
Je mehr die künstliche Intelligenz perfektioniert wird, desto mehr entspricht der Mensch in Wirklichkeit nur dieser ersten Idee. Die Technik hält sich auf ganz praktische Weise an das Substrat der Theorie, des Mythos – sie verwirklicht, wie der Mensch sich selbst versteht.
ELLUL UND DIE KI
Bereits 1954, zur gleichen Zeit, als die ersten “denkenden Maschinen” entwickelt wurden, veröffentlichte Ellul sein grundlegendes Buch La Technique, ou l’enjeu du siècle. Seine These fand im damaligen Kontext des Kalten Krieges keinen Widerhall, da kapitalistische oder postmarxistische Ideologien seiner Meinung nach keine Bedeutung mehr hatten: Produktivität, Produktivitätsgewinne (Profit), Wirtschaft werden durch die Entwicklung der Technik bestimmt [25]m die zum zum entscheidenden Faktor geworden ist, der – mehr als alle anderen – alle unsere Gesellschaften modelliert und strukturiert. Ellul datiert dieses spontane Phänomen der Autonomisierung der Technik auf die erste Hälfte des 20. Jahrhunderts zurück, in der Folge der industriellen Revolution und des “Machinismus”, und dann in ein “technisches System”, auf die 1950er Jahre, mit dem Erscheinen der ersten Computer [27]: was für Ellul wesentlich erscheint, die zentrale Schwierigkeit, unsere Gesellschaft zu verstehen, ist, dass auch alle alten (ideologischen, politischen, ökonomischen usw.) Raster der Lesung dadurch in gewisser Weise überholt werden, sich nunmehr entziehen. [28]
Die Technik etabliert sich heute in unseren Gesellschaften als ihre eigene Ursache, bildet ihr eigenes “Milieu”, in dem das Mittel zum Zweck geworden ist (es gibt nicht die Idee eines Fortschritts, sondern eher einer Komplexisierung oder “Selbstvergrößerung”: In diesem sich selbst erzeugenden System löst sich am Ende alles durch die Technik auf – es ist selbst die Lösung von Problemen, die durch die Technik verursacht wurden). Sie hat ihre eigene Autonomie, hat sich zu einem “technischen System” verselbstständigt, zu einer Interdependenz zwischen verschiedenen Techniken, verschiedenen Subsystemen. Vektor der Standardisierung, “Rationalisierung”, der ein Glaube an die Neutralität der Technik zugrunde liegt [29].
Dieses System verwüstet, ebnet alles ein und ist nunmehr universell. Das Streben nach reiner Effizienz, die Vorherrschaft technischer Kriterien in allen Punkten, auf allen Ebenen und in allen Bereichen macht nach und nach alles unsichtbar, verfälscht oder zerstört, was nicht der Technik zuzuordnen ist. Dieses technische System, das auf diese Weise an einem Prozess der allgemeinen Künstlichkeit teilnimmt, ist zum höchsten Rationalitätsregime geworden, an das sich alles anpasst und durch das sich alles zusammenfügt, und das für den Menschen die erste Erfahrung darstellt [30].
Ellul beschreibt sehr genau, was die Technik ist, aber er sagt uns nicht, was sie im Grunde darstellt, wofür sie das Zeichen wäre. Kein Anthropomorphismus hier, Ellul vermenschlicht die Technik nicht, noch weniger vergöttlicht er sie [31]. Sie hat “das Aussehen einer seltsamen Trockenheit” (ST, S. 237). Sie ist wie eine Ironie. Sie ist der Wunsch des Menschen nach Macht [32].
Die Technik ist eine Abstraktion, die uns beherrscht. Während das Feld des Politischen, das seine Autonomie verloren hat, immer enger wird und der Herrschaft der Technik in diesem technischen System unterworfen ist, vergrößert der Staat als eine Struktur, die selbst technisch und koordinierend ist, unaufhörlich seinen Aktionsbereich im Verhältnis, im Dienste dieser Technik. Doch der Mensch muss sich dieses Phänomens erst bewusst werden. Denn dieses technische System ist in gewisser Weise vor uns verborgen, wir haben nur noch “die sehr lebhafte und farbige Wahrnehmung eines Nicht-Realen, die keine andere Funktion hat, als uns den Mechanismus zu verbergen und uns mit dem “Wunder-wischen” zufrieden zu stellen.”
Wo diese Autonomisierung des technischen Systems erlitten und schlecht verstanden oder sogar völlig verleugnet wurde, nimmt sie mit dem Aufkommen und den Fortschritten der KI einen anthropomorphen Aspekt an und scheint wie gewollt, erwünscht (im Sinne der Kybernetik) zu sein. Das technische “Faktum” tritt an die Stelle des Rechts, die KI und die “algorithmische Gouvernementalität” an die Stelle der menschlichen Entscheidung [33].
Die Bewusstwerdung der Autonomie des technischen Systems war bei Ellul eine Voraussetzung für jegliches Handeln. Während die künstliche Intelligenz mit ihrem Millenarismus diese Realität der Unabhängigkeit des technischen Systems abwehrt und auf eine Zukunft, eine Science-Fiction-Fantasie reduziert, auf die der Mensch im Übrigen durch diese übernatürliche Dimension keinerlei Einfluss mehr hätte.
Mit anderen Worten, diese Unwägbarkeit des technischen Phänomens in unseren Gesellschaften nimmt mit der künstlichen Intelligenz eine raffiniertere Wendung, sie scheint eine Verfeinerung dieser Verdrängung durch die Fiktion, einer imaginären Konstruktion mythischer Art, zu sein. Die künstliche Intelligenz tendiert dazu, mit diesem durch Computernetzwerke vereinheitlichten technischen System zusammenzufallen, das selbst bereits einen vollständigen Bruch mit der “alten Welt” darstellt: “Die einzige Funktion der Gesamtheit der Informatik besteht darin, die flexible, informelle, rein technische, unmittelbare und universelle Verbindung zwischen den technischen Subsystemen zu ermöglichen. Es handelt sich also um einen neuen Satz neuer Funktionen, von denen der Mensch ausgeschlossen ist, nicht aus Konkurrenzgründen, sondern weil sie bislang niemand erfüllt hat. Das bedeutet natürlich nicht, dass sich der Computer dem Menschen entzieht, sondern dass ein Ensemble entsteht, das strikt nicht-menschlich ist”. (ST, S. 112) Die KI ist der Ersatz für diese “neue Spontaneität” [34], von der man nach Ellul sagen könnte, dass ihr Hauptmerkmal darin zu bestehen scheint, dass sie vom Menschen ignoriert wird – durch einen mythischen Horizont.
Sie ist, durch die Personifizierung der Technik, ein doppelt nicht-menschlicher Horizont: Diese “neue Gesamtheit” der Informatik nun durch die Illusion eines Zugangs zu einer Form von Intelligenz, von Bewusstsein, zu fetischisieren, bedeutet in der Tat, ihr “Rechte”, eine zusätzliche Autonomie zu gewähren, die der Computer noch nicht hatte.
Was die KI in das von Ellul beschriebene technische System bringt, ist außerdem das Bild des technisierten Menschen, d. h. durch die Technik, ihr Modell, der Mensch, der nur noch Funktion, technischer Vektor ist: ein Bild, das man als unterschwellig, als manipulativ bezeichnen könnte, wenn dieses von der KI erzeugte Simulakrum nicht auch eine ironische Umkehrung der Technik auf den Menschen wäre.
In diesem System, in dem sich die Technik verselbstständigt hat – bis sie in gewissem Sinne die computerisierte Welt an die Stelle der realen Welt setzt [35], scheint die KI für den Menschen sowohl den wahrscheinlichsten als auch den unrealistischsten Horizont darzustellen: einen Horizont, den man oft dazu neigt, als dystopisch zu bezeichnen (ohne jedoch jemals in Betracht zu ziehen, was dieser Begriff hier tatsächlich abdeckt).
Dieses dystopische Phänomen scheint heute selbst ein Grundtrend in unseren Gesellschaften zu sein, von dem die schrittweise Einführung der KI nur eine der Erscheinungsformen ist (siehe zu diesem Kapitel der Dystopie den biopolitischen Umgang mit der “Covid-Krise” vor dem Hintergrund der “Gesundheitssicherheit”) [36].
Sie geht in unserer technisierten Gesellschaft von einer Abyme oder Wiederverwertung der Themen, Klischees und Mythen der Science-Fiction aus (zu deren Gründungsgenres eben auch die Dystopie gehört). Dieser Gemeinplatz einer Science-Fiction, die Realität geworden ist (und nicht umgekehrt), neigt dazu, die Instrumentalisierung dieses Genres für die Etablierung eines Gesellschaftsmodells zu verschleiern. Was als die am meisten erfüllte Tatsache erscheint (“prophezeit” von der Science-Fiction), ist im Grunde meist nur eine mythische, ideologische Konstruktion (KI, Dystopie, postapokalyptische Worst-Case-Szenarien, dickianische Vorhersagemodelle, Neusprech … alles ist gut für die Wiederverwendung).
Die Haltung ist hier die einer Gesellschaft, die von der S-F-Imagination genährt wird und sich ihrer selbst und ihrer technischen Macht fälschlicherweise bewusst ist, während die Realität dahinter genau eine Zerstörung der Imagination und eine Entfremdung, letztlich durch die Technik, ist [37].
Die KI scheint in diesem dystopischen Prozess jedoch eine ganz besondere Rolle zu spielen. Die Idee einer Herrschaft der Technik bzw. der Maschine über den Menschen wird teilweise angenommen oder zumindest in Betracht gezogen (was z. B. im Dogma der Singularität vorgebracht wird). So tendiert das technische System dazu, sich durch diese Sakralisierung der Technik abzuschließen – genau das, was Jacques Ellul zu befürchten schien. Der “unterhaltsame” Mythos der KI tendiert dazu, diese Selbstentfremdung des Menschen zu verschleiern (letztlich nicht so sehr durch die Technik als vielmehr durch diese Sakralisierung). In einer Welt, in der in den sozialen Beziehungen das Werkzeug Computer und eine gewisse Anarchie der “Netzwerke” vorherrschen, liefert die Dystopie im Übrigen eine gewisse Anzahl von Regeln, sie scheint nur noch zu einem Spielelement zu werden (siehe hierzu die Serie “Black Mirror”). Hier liegt wohl der grundlegende Unterschied in der Art und Weise, wie man heute mit Dystopien umgeht, was zu Zeiten von Orwell oder Huxley und auch Dick noch nicht der Fall gewesen sein kann.
“Designing and implementing new combinations of technologies, human skills, and capital assets to meet customers’ needs requires large-scale creativity and planning. Es ist eine Aufgabe, die Maschinen nicht sehr gut bewältigen können. That makes being an entrepreneur or a business manager one of society’s most rewarding jobs in the age of Machine Learning”, Harvard Business Review [38].
Der mythische Horizont ist hier genau derselbe wie der dystopische, aber er verbirgt seine Logik, seinen Mechanismus. Bevor wir sehen, wie dieses Spiel der Verschleierung funktioniert, wollen wir zunächst einmal sehen, mit welchen Mitteln sich der Mythos verbreitet: technologische Errungenschaften (die aufeinanderfolgenden Synthesen der KI-Forschung) und die Fülle der KI-Technologien selbst, Diskurse (technische oder eher theoretische – natürlich der Transhumanismus), Medienberichte, zahlreiche Debatten, Fiktionen (ohne zwischen guter und schlechter Science-Fiction unterscheiden zu wollen, genügt es hier festzustellen, dass die KI in diesen Werken zunehmend mit allen möglichen Saucen serviert wird) usw. Es ist natürlich auch eine allgemeine Wirtschaft (mit der Idee eines Produktivitätsgewinns durch den Ersatz des Menschen durch den Computer): Die GAFAM, die “Tech-Giganten”, die digitale Industrie, profitieren heute massiv vom Aufkommen der generativen KI (eine Marktkapitalisierung von mehreren Billionen! [39]; so werden heute irrsinnige Geldsummen in die KI investiert. Ganz zentral ist hier natürlich die Macht dieser Industrie, ihre immense Einflusskraft in diesem Bereich, der technisch-wissenschaftliche Diskurs, den sie in Bezug auf diesen Mythos führen, der der Herstellung einer Erzählung entspricht, der Manipulation in diesem Fall von narrativen Werkzeugen, von Konzepten, die aus der Science-Fiction stammen.
Es gibt hier jedoch etwas, das über diese Manipulation hinausgeht und eher mit einem Unbewussten zu tun hat: Der vollkommen zweideutige Mythos der KI scheint eine Entfremdung innerhalb des bekennenden Diskurses zu offenbaren, es ist kein politischer Diskurs im eigentlichen Sinne (man beachte hier, dass die Politiker selbst die ersten zu sein scheinen, die sich gegen den Mythos verteidigen [40], sondern technisch, der sich nur auf Mittel und auf eine kurzfristige Wette festlegt (die, wenn nicht auf den durch die künstliche Intelligenz erzeugten Gewinn, so doch auf die zukünftige, sehr zufällige Entwicklung der Techniken).
(Die heute einflussreichsten Persönlichkeiten der KI-“Forschung”, die Turing-Preisträger Bengio, Le Cun und Hinton, stellen sich alle aufrichtig die Frage nach dem Mythos, der allgemeinen oder starken KI und der Singularität – Hinton sogar so sehr, dass er schließlich bei Google kündigte).
Auch wenn die Frage nach dem Mythos aus einem bestimmten Blickwinkel abstrakt erscheinen mag und nur für eine technische Elite von Interesse ist, so arbeitet sie doch an der Gesellschaft als Ganzes und wirkt wie ein Unbewusstes. Schon der vollkommen zweideutige Begriff der KI-Forschung ist unter dem Gesichtspunkt einer (prometheischen) Suche zu sehen und scheint auf ein kollektives Unbewusstes zu verweisen. Die Frage nach der Verwässerung der Verantwortung im technischen System und der Autonomie der Technik ist zentral und wird gleichzeitig durch die Macht des Mythos verschleiert.
Auf der berühmten Dartmouth-Konferenz von 1956, auf der die KI konzeptualisiert wurde, schlug John McCarthy den Begriff künstliche Intelligenz vor, um sich insbesondere von dem Begriff Cybernetics zu unterscheiden, der seiner Meinung nach zu stark mit der damaligen Macht des Gründervaters, des berühmten Mathematikers Norbert Wiener, über diese Bewegung konnotiert war [41]. Der Begriff Cybernetics bezieht sich auf die Idee einer Gesellschaft als Maschine, als kybernetisches System der Kommunikation. Während McCarthy auf eine intelligente Maschine hinarbeitet, äußert Wiener distanzierter seine Befürchtungen, dass eine intelligente Maschine unsere Welt in einen Science-Fiction-Albtraum verwandeln könnte, wenn wir sie nicht kontrollieren, und begibt sich mit seiner kybernetischen Gesellschaft auf dystopisches Terrain.
Diese beiden Visionen scheinen sich mit der KI irgendwie miteinander zu verbinden, in einer dystopischen Tendenz, die von Kybernetismus, d. h. Wieners Traumutopie, begleitet wird. Der böse Roboter und der dystopische Horizont waren in Wirklichkeit schon immer eins und spiegelten sich gegenseitig wider: Spiegelungen wie in einem Hohlraum, metaphorisch füreinander, wo die Maschine den Menschen ersetzt und der Mensch zur Maschine wird.
Können wir also bei den sich entwickelnden KI-Technologien nur von einem dystopischen Horizont (oder Trend) sprechen und nicht von einer realen Dystopie? Die Dystopie ist hier eher ein Prozess als eine feste Form. Sie ist eine Form der Dystopie, die die Science-Fiction-Erzählung, die Fiktion, als Werkzeug zur Perfektionierung, zur Anpassung, hin zu einem rein technizistischen Gesellschaftsideal nutzt.
Die Website Wikipedia erinnert daran, dass “in einer Dystopie die technologische Entwicklung kein entscheidender Faktor ist” und dass “übernatürliche oder metaphysische wissenschaftliche Postulate einfach keinen Platz haben” [42]: Sie können einen Horizont darstellen, aber keine Bedingung. Dennoch kann sich die dystopische Ideologie narrativer Techniken (und sogar des Mythos – in diesem Fall der künstlichen Intelligenz) bedienen, um die Etablierung, die Gestaltung eines dystopischen Systems zu erreichen (und das sogar auf ziemlich unbewusste Weise – ich meine, nicht in diesen Begriffen formuliert).
Die Dystopie wäre, tiefergehend, nicht nur ein (Erzähl-)Genre und damit nicht notwendigerweise Science-Fiction. Sie sei ein politisches, soziales System utopischer Art, das schiefgelaufen sei.
Es wäre außerdem falsch zu glauben – einem bestimmten Klischee der Science-Fiction folgend -, dass dystopische Gefühle mit der KI dadurch entstehen, dass wir es anstelle von Menschen nur noch mit Maschinen oder Roboterschnittstellen zu tun haben (dies ist teilweise bereits der Fall, ohne dass wir dafür die künstliche Intelligenz heranziehen müssen). Dieses Gefühl entsteht hier eher in einer Gesellschaft, die sich das Prinzip zu eigen gemacht hat, nur noch von Techniken regiert zu werden (seit La Boétie weiß man, dass die Knechtschaft im sozialen Körper nur in einem bestimmten Grad der Integration oder Akzeptanz besteht).
Die Moderne ist durchzogen von Fabeln, die mit dem technischen Fortschritt zusammenhängen und die der Mensch, um Maschinen zu verkaufen oder von ihnen zu profitieren, geprägt hat. Es sind Fabeln, die man als positiv bezeichnen könnte. Es ist beispiellos, dass wir es bei der KI mit der Schaffung eines Mythos zu tun haben, und zwar von denjenigen, die diese Technologie entwickeln: Künstliche Intelligenz soll die Menschheit mit “Aussterben” bedrohen [43].
Es ist auch eine völlige Umkehrung der Art und Weise, wie uns neue Technologien im Allgemeinen präsentiert werden, die im Grunde nur von der richtigen Verwendung abhängen würden: Obwohl auf recht diffuse Weise eingeflößt, entsteht so mit der technologischen Singularität, einem bösen Traum der Technik, eine Form alptraumhafter Science-Fiction-Fantasien, ein pervertierter Mythos.
Ob es sich bei dieser Fantasie um eine aufrichtige Furcht (Phobie), eine interessierte Haltung oder sogar um eine reale Erwartung (insbesondere bei der Transhumanismus-Bewegung) handelt, ist im Grunde nicht von großer Bedeutung. Diese Phantasie beruht im Wesentlichen auf einer Sakralisierung der Technik.
In Bezug auf die Wirkung von Science-Fiction-Werken, die eine furchterregende technische Erfindung präsentieren, auf moderne Gesellschaften weist Ellul auf dieses Problem hin: “La Technique n’étant pas celle qui nous a été montré comme telle nous paraît parfaitement acceptable, rassurante: nous nous se réfugié dans la société technique réelle pour échapper à la fiction que l’on nous a présenté comme étant la vraie technique.” (ST, S. 121) Der Fall der künstlichen Intelligenz mit ihrem demiurgischen Horizont ist zwar mehrdeutiger, aber die Feststellung bleibt die gleiche: Ob nun einige die Singularität fürchten oder auf sie hoffen mögen, die Gegenwart der künstlichen Intelligenz ist dennoch unendlich bodenständig. Die technizistische, kybernetische Utopie/Dystopie ist auf dem Vormarsch.
Die künstliche Intelligenz tendiert dazu, unsere gesamte Gesellschaft (bis hin zu unserem Denken und unserer Sprache) zu formen. Der Mythos, der von seinen technischen Anwendungen entkoppelt und in seiner Abstraktion gefangen ist, bleibt dennoch ein Gegenstand des Spotts und der Neugier. Er dringt umso mehr ein, als er, wie ich zu zeigen versucht habe, ambivalent ist und nicht ganz als solcher angenommen wird, so dass er harmlos erscheint. Im entgegengesetzten Extrem sakralisiert, operiert die KI auch als Schein.
Wie Jacques Ellul erklärt, hat sich die Welt durch die Technik “vereinheitlicht”: Das technische System, das durch den Computer “eingesetzt” wurde, hat in gleicher Weise in der Informatik so etwas wie eine universelle Struktur gefunden. Für Ellul bestand daher die Gefahr, dass dieses System, das zugleich globalisiert und globalisierend ist, in eine technische, kybernetische Utopie abgleitet.
“Es gibt keine andere Utopie als die technische (…). Die Utopie ist in der technisierten Gesellschaft der Horizont der Technik. Nothing more.” (ST, S.31) Ellul erinnert auch daran, dass “in der Vergangenheit alle Utopisten, ohne eine Ausnahme, die Gesellschaft genau wie eine Megamaschine dargestellt haben: es handelt sich immer um eine exakte Wiederholung einer idealen Organisation, um eine perfekte Verbindung zwischen den Teilen des sozialen Körpers usw.”. Die “perfekte” utopische Gesellschaft tendiert dazu, im Gesellschaftskörper selbst technisiert zu werden. In diesem aus Utopia entstandenen Gesellschaftssystem nimmt die KI eine zentrale Rolle ein: Sie technisiert die menschlichen Beziehungen, sie tendiert dazu, aus den Menschen mehr als nur technische Vektoren zu machen, zeigt ihnen dieses Bild und unterwirft es ihnen. Dieser Mythos, der dazu neigt, sich gegen den Menschen als kybernetische Utopie zu wenden, fügt ihm dieses heilige, irrationale Element hinzu, das er aus der Science-Fiction übernommen hat. Es ist keine Utopie mehr, die als solche gewollt, gedacht und gewünscht ist, sondern die sich auf umso natürlichere Weise durchsetzt, als sie aus dem Unbewussten einer bestimmten Gesellschaft, aus diesem “absoluten Glauben der modernen Welt” an die Technik, zu entspringen scheint. Es ist auch kein erstarrter Utopismus, sondern immer ein Horizont: ganz genau jener dystopische Horizont, den uns der Millenarismus der KI verspricht.
Man könnte von einer potenziellen Dystopie sprechen, aber es ist wirklich ein dystopischer Horizont, der nicht virtuell ist, sondern sich im Verhältnis zur Entwicklung dieser Technologien aktualisiert.
* * *
China verkörpert für den Westen in ähnlicher Weise diesen techno-dystopischen Horizont. Es erscheint, teilweise konstruiert, als die Verwirklichung dieser Dystopie.
Der Mythos hat dort also nicht die gleiche Funktion oder den gleichen Einfluss wie im Westen. Dieser Unterschied lässt sich durch die proaktive Politik der chinesischen Behörden erklären. Die Entwicklung der KI wurde dort von zwei Faktoren bestimmt: einem technologischen “Lösungsansatz”, der Technologietransfer und Innovationen auf allen möglichen Ebenen mit den zahlreichen Problemen der Gesellschaft verbindet, und einer technologischen Herausforderung, die durch die Rivalität mit den USA bestimmt wird.
So findet in China mit der KI ein Wettlauf um die Künstlichkeit statt. Das Simulakrum – als Bild des Fortschritts und der Zukunft – ist dort vorherrschend. In diesem Überbietungswettbewerb neigt China dazu, den Mythos gewissermaßen zu “überstürzen” und die künstliche Intelligenz zu verwirklichen (siehe dort die Explosion von Avataren/Robotern, künstliche Intelligenz als CEO usw.). [44]), ohne sich mit dem spezifisch westlichen Millenarismus zu belasten, von dem man bezweifeln kann, dass er in der chinesischen Gesellschaft Anklang findet – sei es das Aufkommen einer bewussten KI oder, noch weniger, der negative Mythos der Singularität.
Auch die Science-Fiction bei der Etablierung der Technologien der künstlichen Intelligenz spielt dort nicht die herausragende Rolle, die sie in unserer Gesellschaft hat (aber der chinesische Dystopismus wird vom Westen aus selbst als Science-Fiction wahrgenommen und nährt seinerseits den KI-Mythos: diese Art von Spontaneität der Künstlichkeit in China, die den Westen aus der Ferne fasziniert).
Abschließend sei noch auf eine Grenze hingewiesen, die China bei der Aneignung dieser Technologien gesetzt ist: Sprachmuster, die als reine Propagandawerkzeuge verstanden werden. Die verschiedenen digitalen Zensuren, lokal oder gegenüber dem globalen Netz, erlauben es nicht, diese “Agenten” ausreichend mit Daten zu versorgen (ganz zu schweigen von den verschiedenen in China gesprochenen Sprachen, die ebenfalls ein Problem beim Training dieser Modelle darstellen) [45].
KI als Dispositiv, insbesondere die generative KI, beruht in der Tat auf einem Spiel mit Spiegeln, und das Bild muss plausibel bleiben (ChatGPT produziert Texte, die “illusionieren”), aber ein absolutes Zensursystem scheint hier ein Hemmschuh für die Entwicklung dieser Technologien zu sein: Das Spiegelbild würde zu sehr verzerrt werden.
So ist es paradoxerweise erlaubt, im Westen mehr als in China (obwohl China heute diese Technologien in ihrer schlimmsten Form zu spüren bekommt: Sozialkredit, globale Überwachung) eine größere Bereitschaft für das globale dystopische Modell der künstlichen Intelligenz zu sehen. China als technizistische Dystopie scheint nicht völlig systemrelevant zu sein (obwohl es ein grundlegendes Prinzip der Staatsführung ist, ersetzt die Technologie dort nicht den Staat – das chinesische Modell tendiert über die KI nicht zu einem Kybernetismus: Es ist immer noch der Staat, der die Algorithmen kontrolliert).
Die immer stärker werdende KI wäre in unserer Gesellschaft somit eine endlose Vorbereitung auf eine Dystopie, auf eine “technisierte Gesellschaft” (die mehr als nur von technischen Prinzipien regiert wird). Aber auch die künstliche Intelligenz ist nur ein Traum von einem Automaten.
“Die Technik tritt zwangsläufig in eine Welt ein, die nicht träge ist”, stellt Ellul fest. “Sie kann sich nur in Bezug auf sie entwickeln. Keine Technik kann sich außerhalb eines bestimmten wirtschaftlichen, politischen und intellektuellen Kontextes entwickeln, so autonom sie auch sein mag. Und wo diese Bedingungen nicht verwirklicht sind, da treibt die Technik ab.” (ST, S. 42) Die Illusion mit der KI besteht im Grunde darin, zu glauben, dass sie sich in einer Umgebung nach ihrem Vorbild entwickelt, die völlig künstlich und anorganisch ist.
Ebenso stellt Ellul in Bezug auf die Hegemonie des technischen Systems mehrfach klar: “Zu sagen, dass die Technik der entscheidende Faktor ist, bedeutet nicht, dass sie der einzige ist.” (ST, S. 29) Der dystopische Horizont, der durch den KI-Mythos destilliert wird – durch die Aneignung der Themen der S-F durch die Technowissenschaft -, setzt lediglich die Herrschaft der Technik, der algorithmischen Gouvernementalität und der bestehenden Macht fort und ist nichts weiter.
Die im Grunde sehr einfache Frage wäre: Wie lange will man dieser Dystopie, d. h. dieser Illusion, noch hinterherlaufen? Zwar wird man mit der KI potenziell nie den Tiefpunkt erreichen, aber die Palette an störenden Elementen, die irgendwann – ohne auch nur daran zu denken – die Maschine blockieren werden, ist ebenfalls grenzenlos.
In diesem Bild der komplexen Beziehung zwischen KI und Dystopie sollte in einer umfassenderen Studie auch die wichtige Frage der Kunst berücksichtigt werden [46]Als menschliche Repräsentation (Sprachmuster) befindet sich die KI an der Grenze zwischen Kunst und Technik (der Automat). Sie ist jedoch insofern eine Negation der Kunst, als sie zum reinen Simulakrum, zur Identität, tendiert.
In seiner Neuinterpretation des Prometheus-Mythos – der seit Mary Shelley in gewisser Weise die Kunst der Science-Fiction ist – ist hinzuzufügen, dass der Forscher im Bereich der künstlichen Intelligenz nicht metaphorisiert, sondern verdinglicht, die Metapher auf eine technische Herausforderung reduziert und jegliche Symbolik zerstört.
“Alles geschieht, als besäße das technische Phänomen in sich eine Art Fortschrittskraft, die es sich unabhängig von jeder äußeren Intervention, jeder menschlichen Entscheidung orientieren lässt. Es gehorcht einer gewissen Anzahl von Automatismen. Aber wir sagen doch: “Alles geschieht, als ob …”, es ist nicht in unserem Sinn, die Theorie einer Art Dynamik zu formulieren, eine Mystik der Progression eines neuen Wesens. […]” (ST, S. 240) Wenn man also die künstliche Intelligenz auf diese Metapher – letztlich die des technischen Systems – zurückführt, wird die Fiktion, dieser schädliche Millenarismus, aus dem sie ihre ganze Substanz bezieht, ad absurdum geführt.
Die KI bringt nur die Weigerung unserer Gesellschaft zum Ausdruck, das technische Phänomen, die Autonomisierung des technischen Systems, durch diese mythische Projektion zu denken: eine Sakralisierung, die selbst die Entfremdung des Menschen durch die Technik systematisiert.
Aber sind wir so sehr in den Mythos verstrickt, dass wir nicht im Gegenzug diese Erzählung unterwandern können?
Ellul scheint den Ursprung des zentralen Problems der Autonomisierung der Technik in seinem Essay Le Bluff Technologique (obwohl er nicht direkt darauf anspielt, vielleicht weil er wegen dieser These der Autonomie der Technik zehn Jahre zuvor stark angegriffen worden war) erkannt zu haben: “Es ist in der Tat die Grundüberzeugung aller, dass die Technik unser gesamtes Machtstreben erfüllen kann und dass sie an sich allmächtig ist”, stellt er fest, aber es ist auch dieser “absolute Glaube der ‘modernen’ Welt, der den absoluten Verzicht des Menschen auf die Beherrschung der Technik impliziert: Er delegiert seine Macht an sie! “(S. 295) Hier liegt die Irrationalität des technischen Systems, aber auch der künstlichen Intelligenz, ihr grundlegend illusorischer Charakter. Von der Idee der (rationalen) Beherrschung der Technik bis zur Idee der Macht durch Technik besteht hier “ein unglaublicher Widerspruch”.
Zu dieser “mysteriösen” Vorherrschaft der Technik in unseren Gesellschaften ist das berühmte Gesetz von Gabor bekannt: “Was technisch getan werden kann, wird notwendigerweise getan werden” (1971) (das an das anknüpft, was Ellul bereits in den 1950er Jahren sagte: “Weil alles, was technisch ist, ohne Unterscheidung von Gut und Böse, zwangsläufig benutzt wird, wenn man es in der Hand hat. Dies ist das wichtigste Gesetz unserer Zeit”. (La T., 1954)). Die Beziehung des Menschen zur Technik geht in Wirklichkeit sehr weit über den Rahmen des Rationalen hinaus. Die Technik ist so für den berauschten Menschen zum Gegenstand einer “schwarzen Transzendenz” [Hottois] geworden, was ihm wie eine “blinde und stumme Zeugung der Zukunft” [47] erscheint.
Ausgehend von der Annahme der Neutralität der Technik, die gewissermaßen von jeder Art von moralischer Fragestellung befreit ist, setzt sich das technische Phänomen in Gang: “Die Technik ist nichts an sich. Sie kann also alles tun. Sie ist wirklich autonom.” ((La T., 1954)). Die Technik hat – ebenso wie ihre Autonomie – ihre eigene Vernunft oder Logik. Sie ist der Anschein von Freiheit, sie “kann alles tun”, aber indem sie sich entfesselt, legt sie uns in Ketten, erweist sich als nichts anderes als eine Operation am Menschen, eine systemische Rationalisierung seines Universums.
Künstliche Intelligenz und insbesondere das Problem der Ausrichtung künstlicher Intelligenzen synthetisieren diese Ambivalenz. Der Begriff der Ausrichtung ist diese Idee der Kontrolle der KI, des “ethischen” Regulators (um diese Techniken letztlich lebensfähig und legal zu machen, sie zu “normalisieren”). Sie fasst diesen Widerspruch, diese absolute Unzulänglichkeit zwischen dem Glauben des Menschen an die “Allmacht der Technik” und seinem souveränen Anspruch, sie zu beherrschen, gut zusammen: Werkzeuge bauen zu wollen, die so mächtig sind, dass man am Ende nicht mehr versteht, wie sie funktionieren, und dann auf der anderen Seite illusionär diese Allmacht kanalisieren zu wollen. Die KI soll durch eine Vielzahl technischer Tricks immer autonomer werden, damit sie uns entgleitet, und gleichzeitig soll sie mit Regeln, Codes und Gesetzen durchsetzt werden (die im Grunde nur ein Spiegelbild dessen sind, was der Mensch sich im Gegenzug selbst auferlegt und zufügt).
Die verschiedenen KI-Moratorien des letzten Frühjahrs, die Gesetzesentwürfe, insbesondere der EU und der US-Regierung, der Begriff der Angleichung selbst, zielen nur darauf ab, die künstliche Intelligenz zu integrieren und ihre Anwendungsfälle und Praktiken konkret in Betracht zu ziehen.
Es gibt übrigens nicht auf der einen Seite die künstliche “Intelligenz” und auf der anderen Seite die menschliche Intelligenz, sondern mit der künstlichen Intelligenz das Projekt, mithilfe des Informatikwerkzeugs eine modellierbare, manipulierbare Intelligenz zu schaffen, d. h. die Idee einer auf eine Quantität, auf eine Norm reduzierten Intelligenz. Das ist es, was unter dem Deckmantel einer “ethischen” Fragestellung diskutiert wird.
Als Visionär nimmt Ellul den künftigen Einfluss der neuen Technologien vorweg und stellt fest, dass “das verschlüsselte Universum des Computers allmählich zu dem für real gehaltenen Universum wird, in das wir uns einfügen.” (ST, S. 114) Die Pixelgesellschaft hat die Gesellschaft des Spektakels [Debord] abgelöst, der gespenstische Mensch den entfremdeten Menschen. Dass ChatGPT so viel zu reden gegeben hat, liegt nicht so sehr daran, dass die Gefahr besteht, dass künstliche Intelligenz die menschliche Intelligenz ersetzt oder dass sie für uns eine “narzisstische Verletzung” [48] darstellen würde, vielmehr geht es darum, dass die Bedeutung von Sprache, von dem, was uns ausmacht, auf Null reduziert wird, und dass wir feststellen, dass die gesamte Produktion dieser digitalisierten Welt, die zu unserer “realen” Welt geworden ist, möglicherweise nur noch von Computern erzeugt wird.
Es ist also die Andeutung einer Ersetzung, die hier viel markanter oder bedeutungsvoller ist als eine Ersetzung als solche durch Maschinen, denn diese kleine Musik, die uns seit dem Aufkommen von ChatGPT in die Ohren geflüstert wird, setzt viel mehr als diese mögliche Disqualifizierung voraus, eine Akzeptanz, eine Selbstüberzeugung des Menschen, der sich als Technik begreift (die KI suggeriert oder “bestätigt” zunächst nur eine Gleichwertigkeit zwischen Mensch und Technik und erweist sich, daran sei erinnert, als nichts anderes als eine Umkehrung der Bedeutung des Mythos).
Aus zivilisatorischen, metaphysischen Gründen stellt die KI die Frage nach der Wahl und der Verantwortung des Menschen stärker in den Vordergrund, als es Jacques Ellul in Bezug auf das Phänomen der Technik vermuten ließ. Die KI ist in erster Linie ein Spiegelgerät, ein technisches, statistisches Prisma. Aber im metaphysischsten, prometheischen Sinne scheint dieser Spiegel auch zu einer Reflexion des Menschen führen zu können, zu einer möglichen Hinterfragung seiner Beziehung zur Technik. Das zurückgeworfene Bild scheint erst im Nachhinein kommen zu können und nur das am wenigsten schmeichelhafte für den Menschen zu sein, nämlich das einer Verdinglichung durch die Technik. Dieser Millenarismus, der zudem einen anthropologischen Umschwung statuieren würde, ist jedoch auch eine Illusion, eine Fata Morgana, die sich auflöst, je näher man ihr kommt.
Die KI “denkt” nicht wirklich, und sie ist nur eine Fantasie unseres technischen Systems, ein Bild, das sich am Ende auflöst. Eine auslaufende Technik, für die es keine Verwendung mehr gibt. Wenn die Verantwortung jedes Einzelnen (insbesondere auf politischer Ebene, der Märkte) jeden Tag mehr und mehr im globalisierten technischen System verwässert wird, steht angesichts dieser Tatsache der Technik immer der Begriff der Freiheit auf dem Spiel (dieser Begriff ist bei Ellul zentral: Wenn er auf so unerbittliche Weise gleichzeitig die Hegemonie und die Sackgasse dieses Systems aufzeigt, dann nur, um paradoxerweise besser zu dieser Freiheit zurückkehren zu können, die sein Denken begründet [49].
Die Debatte über den Profit, den Nutzen, einer solchen Technologie ist irreführend, und es gibt eigentlich nur eine Wahl, die man bei der künstlichen Intelligenz treffen muss, nämlich ob man die Technik sakralisieren will oder nicht. Ellul war übrigens weder technophil noch technophob, sondern lehnte die Sakralisierung der Technik ab. Man muss einfach sehen, was Desakralisierung bedeutet.
Gabriel Azaïs
[1] https://futureoflife.org/open-letter/pause-giant-ai-experiments/
[2] Siehe Vernon Vinge, Technological Singularity, 1993 :
[3] https://en.wikipedia.org/wiki/Statement_on_AI_risk_of_extinction
[4] Jacques Ellul, erschienen in La revue Administrative (1965), wiedergegeben in Le Bluff Technologique (1988): “Die Entwicklung der Technik ist weder gut, noch schlecht, noch neutral, sondern besteht aus einer komplexen Mischung von positiven und negativen Elementen, ‘gut’ und ‘schlecht’, wenn man ein moralisches Vokabular übernehmen will.” Dies bezeichnet Ellul als die dem technischen Fortschritt innewohnende Ambivalenz.
[5] Siehe insbesondere sein Buch Les nouveaux possédés, Fayard, 1973:
[6] Unsere technische Welt gibt sich heute kaum noch mit Theorie ab. Siehe insbesondere das “Ende der Theorie” [Chris Anderson, 2008] und diese Passage von Jacques Ellul über die Überwindung der utilitaristischen Auffassung in unserem technischen System: “Die Technik verlangt vom Menschen eine gewisse Anzahl von Tugenden (Präzision, Genauigkeit, Ernsthaftigkeit, Realismus und vor allem die Tugend der Arbeit!), eine bestimmte Lebenseinstellung (Bescheidenheit, Hingabe, Kooperation), sie ermöglicht sehr klare Werturteile (was seriös ist und was nicht, was effizient ist, was nützlich ist …). (…) Sie hat (…) die enorme Überlegenheit gegenüber anderen Moralvorstellungen, wirklich gelebt zu werden (…), diese Moral setzt sich also als selbstverständlich durch, bevor sie sich als endlich klare Doktrin konstituiert, die weit jenseits der vereinfachenden Utilitaristen des 19. Jahrhunderts angesiedelt ist.” (Le Système Technicien, 1977, Neuauflage Cherche Midi (2012), S. 156) [Ich werde künftig die Abkürzung ST für den Verweis auf dieses Buch verwenden.
[7] Unter sehr vielen Beispielen, siehe diesen verblüffenden Artikel aus dem Philosophie Magazin :
[8] Aatif Sulleyman, Google AI creates its own ‘child’ AI that’s more advanced than systems built by humans, The Independent, December 2017 https://www.independent.co.uk/tech/google-child-ai-bot-nasnet-automl-machine-learning-artificial-intelligence-a8093201.html
[9] Frederik E. Allen, The Myth Of Artificial Intelligence, American Heritage, March 2001 :
[10] In drei getrennten Räumen unterhalten sich zwei Gesprächspartner, ein Computer und ein Mensch, mit einem zweiten Menschen, der erraten muss, wo sich die Maschine befindet; wenn der Computer diesen Test besteht, kann man laut Turing sagen, dass die künstliche Intelligenz ein bedeutendes Stadium in der Entwicklung einer “intelligenten Maschine” erreicht hat, die die Frage nach einem Bewusstsein aufwirft. Diese Unentscheidbarkeit erscheint Turing als das einzige Kriterium, um zu bestimmen, ob eine Maschine denkt [obwohl dies unbestimmbar bleibt: Der Test legt diese Idee eher nahe]. Das “Bewusstsein” der KI wird jedoch weiterhin nur nach seiner Fähigkeit beurteilt, Illusionen zu erzeugen (der Bezug zur Wahrheit als solcher und damit zur Wahrheit des Bewusstseins, eines “Bewusstseins”, scheint hier de facto eliminiert).
[11] Wir sollten nicht vergessen, dass der Begriff “Technologie”, der heute die Bedeutung von technischer Komplexität oder Computertechnik hat, eine Verzerrung ist: Technologie ist nur eine Wissenschaft von der Technik. Daher kann man den Begriff Technologie dem Begriff Technowissenschaft vorziehen, der 1977 von Hottois popularisiert wurde, da der Begriff Technologie heute ebenfalls diese doppelte Bedeutung hat (diese semantische Umkehrung, die viel aussagt, macht im Übrigen die heutige Vorrangstellung der Technik gegenüber der Wissenschaft besser verständlich).
[12] Ein empiristisches Gesetz, das von allen Informatikern wie ein Mantra wiederholt und seit seiner Einführung im Jahr 1965 überprüft wird, besagt, dass sich die Rechenleistung von Computern – d. h. die Anzahl der Transistoren auf den Mikroprozessorchips – alle zwei Jahre verdoppelt.
[13] Vorschlag für ein Sommerforschungsprojekt über künstliche Intelligenz in der Präambel der Konferenz von Darthmouth (1956), die als “Geburtsurkunde” der “künstlichen Intelligenz” als eigenständiges Forschungsgebiet gilt: “Die Studie wird auf der Vermutung beruhen, dass jeder Aspekt des Lernens oder jedes andere Merkmal der Intelligenz prinzipiell so genau beschrieben werden kann, dass eine Maschine hergestellt werden kann, die es simuliert.”
[14] Andreas Kaplan, Michael Haenlein, Siri, Siri, in my hand: Who’s the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence’, Business Horizons, Januar 2019: “A system’s ability to correctly interpret external data, to learn from such data, and to use those learnings to achieve specific goals and tasks through flexible adaptation.” Diese Definition, die am weitesten vom Mythos entfernt ist, den man finden kann, verweist selbst auf die Definition von Intelligenz durch John McCarthy (den Erfinder des Begriffs “künstliche Intelligenz”): “Intelligence is the computational part of the ability to achieve goals in the world.”
[15] Die symbolischen Umsetzungen dieser KI-Werkzeuge führen zu einer Personifizierung oder einem Anthropomorphismus: das BDI-Modell [Beliefs-Desires-Intentions], die “künstlichen neuronalen Netze”, die Belohnungssysteme [Cumulative Reward] im Machine Learning,
[16] In einer wichtigen Passage über die Beziehung zwischen Macht und Technik, auf die ich weiter unten zurückkommen werde, zitiert Jacques Ellul in seinem Buch Le Bluff Technologique Castoriadis zu diesem Thema: “Die unbewusste Illusion der virtuellen Omnipotenz der Technik, eine Illusion, die die moderne Zeit beherrscht hat, stützt sich auf eine andere, nicht diskutierte und verheimlichte Idee: die Idee der Macht” (Castoriadis, Entwicklung und Rationalität, 1977).
[17] Poole, Mackworth, Goebel, Computational Intelligence: a logical approach, Oxford University Press, 1998.
[18] Antoinette Rouvroy: “Der Hauptgegenstand der kapitalistischen Akkumulation von Plattformen ist nicht mehr so sehr das Geld, die Finanzen oder die Banken, sondern es sind die Daten.” (Kolloquium “Artificial Intelligence: Fiction or actions?” : Die algorithmische Gouvernementalität, Variances, Juli 2018: https://variances.eu/?p=3359)
[19] https://www.youtube.com/watch?v=bNN3PMkMSfY&ab_channel=%C3%89colenormalesup%C3%A9rieure-PSL
[20] Giorgio Agamben, Dispositivtheorie, 2006:
“Ich werde alles als Dispositiv bezeichnen, was auf die eine oder andere Weise die Fähigkeit hat, die Gesten, Verhaltensweisen, Meinungen und Diskurse von Lebewesen einzufangen, zu lenken, zu bestimmen, abzufangen, zu formen, zu kontrollieren und zu versichern.” https://www.cairn.info/revue-poesie-2006-1-page-25.htm.
[21] Siehe Bernard Stiegler in einem Gespräch mit Antoinette Rouvroy: “Das Big-Data-Subjekt an sich ist für mich das Subjekt, das Tatsache und Recht ist. Es ist der berühmte, vielfach kommentierte Text von Chris Anderson (2008), der besagt, dass die Theorie endlich ist, die wissenschaftliche Methode veraltet ist. Was bedeutet das? Es bedeutet, dass der Unterschied zwischen Fakt und Recht überholt ist (…) Chris Anderson stellt fest, dass man keine Theorien, d.h. kein Recht, keine Modelle mehr braucht: Es reicht aus, Korrelationen zwischen Fakten zu haben. Für ihn ist der Verstand in der Tat selbstgenügsam geworden. Man braucht keine Vernunft, kein Argumentieren und keine Debatte” (Antoinette Rouvroy und Bernard Stiegler, Le régime de vérité numérique, April 2015: https://journals.openedition.org/socio/1251).
[22] Diese aufeinanderfolgenden Synthesen erscheinen auch als Medienereignisse. Beispiele hierfür sind: Perceptron (1957), Eliza (1966), der Computer Deep Blue schlägt Gary Kasparow im Schach (1997), Blue Brain (2005), Watson (IBM, 2011), Siri (Apple, 2011), Alexa (Amazon, 2014), AlphaGo schlägt den Go-Spiel-Champion Lee Seedol (2016), Aufkommen der Deepfake-Technologie (2017), Dall-E (2021), ChatGPT (2022), usw.
[23] Siehe diesen Bericht der Entwickler von GPT-4 “Sparks of Artificial General Intelligence: Early experiments with GPT-4”: https://arxiv.org/abs/2303.12712.
[24] Wie man den Krieg der Intelligenzen überwinden kann, France Culure, 11. Juli 2023 :
[25] “Es ist sinnlos, gegen den Kapitalismus zu schwadronieren: Es ist nicht er, der diese Welt erschafft, sondern die Maschine. Da spricht ein Bewunderer von Marx!
[26] Ellul schreibt Technik (mit Großbuchstaben), um speziell dieses technische Phänomen zu beschreiben, um in seinem Buch zu sehen, wie es sich sehr genau als System etabliert.
[27] “Es ist der Computer, der es dem technischen System ermöglicht, sich endgültig als System zu etablieren” (ST, S. 108), er vereinheitlicht und koordiniert die großen technischen Einheiten untereinander.
[Sie umfasst nicht nur das, was man spontan unter Technik versteht (Computertechnik, Industrietechnik, Produktionstechnik, Maschinen usw.), sondern ist im weiteren Sinne die Suche “in allen Dingen nach der wirksamsten Methode” [La Technique, ou l’enjeu du siècle, S. 29], sie beruht meist auf einer Berechnung und erhält ihre Legitimität durch eine Wissenschaft von der Technik. Die Computerisierung, die das technische System vereinheitlicht, wäre das beste Beispiel für diese Technik als bestimmenden Faktor, aber eine unendliche Anzahl von Techniken regiert die Gesellschaft, die alle das ausschließliche Streben nach Effizienz gemeinsam haben und schließlich als Elemente eines einzigen Systems miteinander verbunden sind.
[29] Ellul demontiert die rationalistische Illusion der Technik, die “weder gut noch schlecht” ist, ein Mittel, das nur vom Zweck abhängt, und sieht darin “einen der schwerwiegendsten und entscheidendsten Irrtümer über den technischen Fortschritt und das Phänomen der Technik selbst”.
[30] Dies äußert sich in einer absoluten Abhängigkeit von den Techniken (Mitteln): “[…] die Entbehrung der Mittel erscheint uns als das Undenkbare: Es ist der Sinn und der Wert unseres Lebens, die erreicht werden!” (ST, S. 289).
[31] Es versteht sich von selbst, dass die Autonomie des technischen Systems für Ellul nicht mit irgendeiner Form von Willen gleichgesetzt werden kann, sie ist funktional, vergleichbar mit einem fahrenden Zug, den man nur schwer anhalten oder lenken kann… Zur Übertragung des Heiligen auf die Technik: “Die technische Invasion entheiligt die Welt, in der der Mensch zu leben berufen ist. (…) Aber wir erleben eine seltsame Umkehrung: Da der Mensch ohne das Heilige nicht leben kann, überträgt er seinen Sinn für das Heilige auf eben das, was alles zerstört hat, was sein Gegenstand war: auf die Technik.” Jacques Ellul, La Technique: L’Enjeu du siècle, 1954, S. 130-132 [Economica (Hrsg. 2008)].
[32] “Man muss immer daran erinnern, dass die Technik nie etwas anderes ist als ein Mittel zur Macht.” (ST, S. 197)
[33] Antoinette Rouvroy und Bernard Stiegler, Le régime de vérité numérique (Das digitale Wahrheitsregime), April 2015 :
[34] “In diese entscheidende Entwicklung (von der Technik hin zu ihrer Konstitution als System und zur allmählichen Ausbildung des Charakters der Selbststeigerung) greift der Mensch nicht ein: Er strebt nicht nach einem technischen System, er strebt nicht nach einer Autonomie der Technik. Hier bildet sich eine Art neue Spontaneität: hier muss man die spezifische, unabhängige Bewegung der Technik suchen und nicht in einer “Revolte der Roboter” oder einer “schöpferischen Autonomie der Maschine” (ST, S. 234).
[35] “(…) Von nun an sind wir bereit, diesem vom Computer hergestellten Universum, das zugleich verschlüsselt, synthetisch, globalisierend und unbestreitbar ist, Realität zu verleihen. Wir sind nicht mehr in der Lage, sie zu relativieren: Die Sicht, die sie uns auf die Welt gibt, in der wir uns befinden, erscheint uns wahrer als die Realität selbst, die wir erleben. Zumindest hier haben wir etwas Unbestreitbares in der Hand und weigern uns, den rein fiktiven und bildlichen Charakter zu sehen. (…) Das verschlüsselte Universum des Computers wird allmählich zu dem für real gehaltenen Universum, in das wir uns einfügen.” (ST, S. 114)
[36] Zu diesem Thema siehe meinen Artikel für lundimatin, The Invention of a Dystopic Moment, vom März 2022 :
[37] Dies ist natürlich in den mittlerweile sehr selbstreferentiellen Werken der Science-Fiction (Filme, Serien) deutlich sichtbar, aber auch in den Medien, Fernsehnachrichten, Printmedien, wo die technische Leistung in den Vordergrund gerückt wird und das dystopische Phänomen selbst ein Showelement ist. In der öffentlichen Debatte ist dies etwas weniger der Fall (aber wenn es darum geht, über Science-Fiction zu sprechen, indem man auf eine bestimmte technische Fehlentwicklung oder das Risiko einer Dystopie hinweist, dreht sich die Debatte tendenziell nur noch um das, was sie letztendlich vorhergesehen hat). Von dieser Science-Fiction scheint nichts mehr von ihrer Fähigkeit übrig zu bleiben, an der Realität zu kratzen, sie zu unterwandern und zu dynamisieren!
[38] Erik Brynjolfsson, Andrew McAfee, The Business of Artificial Intelligence, Harvard Business Review, Juli 2017: https://hbr.org/2017/07/the-business-of-artificial-intelligence.
[39] Delphine Tillaux, Warum das Phänomen andauern wird, Investir N°2595 widmet sich dem Thema KI, September 2023 :
“(…) Apple, Microsoft, Alphabet (Muttergesellschaft von Google), Tesla, Amazon, Nvidia und Meta. Zwischen Ende Dezember 2022 und Ende Juli ist die Marktkapitalisierung des Nasdaq 100 um fast 6 Billionen US-Dollar gewachsen, wobei mehr als 80 Prozent davon allein an diese sieben Titel gebunden sind.”
[40] Pour une intelligence artificielle maîtrisée, utile et démystifiée (Für eine kontrollierte, nützliche und entmystifizierte künstliche Intelligenz), Bericht des Senats, März 2017 :
[41] Nils J. Nilsson, The Quest For Artificial Intelligence, 2010, S. 78 :
“McCarthy hat ein paar Gründe für die Verwendung des Begriffs “künstliche Intelligenz” angeführt. The first was to distinguish the subject matter proposed for the Dartmouth workshop from that of a prior volume of solicited papers, titled Automata Studies, co-edited by McCarthy and Shannon, which (to McCarthy’s disappointment) largely concerned the esoteric and rather narrow mathematical subject called “automata theory”.” Die zweite, so McCarthy, war “um der Assoziation mit ‘Kybernetik’ zu entgehen. Its concentration on analog feedback seemed misguided, and I wished to avoid having either to accept Norbert Wiener as a guru or having to argue with him.”.””
[42] Dystopie, Wikipedia, 24. Oktober 2023: https://fr.wikipedia.org/wiki/Dystopie
[43] Aifang Ma, Künstliche Intelligenz in China, eine Bestandsaufnahme, Science-po, HAL Open science, jullet 2019 :
“Wenn China die Entwicklung von künstlicher Intelligenz in Angriff nimmt, tut es dies mit zwei Zielen. Erstens, die Bewältigung innerstaatlicher Herausforderungen: Die Beschleunigung des Urbanisierungsprozesses, die Armutsbekämpfung, die soziale Pluralität, die Umweltverschmutzung, die Anpassung des Wirtschaftswachstumsmodells und das demografische Problem führen dazu, dass das Land unbedingt eine “elegante Lösung” finden muss, die es ihm ermöglicht, mehrere Herausforderungen gleichzeitig zu bewältigen. Andererseits ist die strategische Priorität, die der künstlichen Intelligenz eingeräumt wird, in gewisser Weise eine starke Antwort auf die amerikanische Konkurrenz.”
https://sciencespo.hal.science/hal-02186714/document :
[44] https://www.francetvinfo.fr/monde/chine/chine-une-femme-robot-pilotee-par-une-ia-devient-pdg-d-une-entreprise-de-plusieurs-milliers-de-salaries_5386039.html
[45] A Shenzhen, l’intelligence artificielle is watching you, Libération, 19. Juni 2023 :
[46] Die KI, die den Menschen seiner kreativen Macht zu berauben scheint; die Kreation, die dazu tendiert, nur noch durch einen algorithmischen Kanal oder Filter (Spotify, Netflix, etc.) zu laufen, der alle Unebenheiten reduziert; der Künstler, der seine eigene Autonomie verliert und nur noch das verbundene Element eines technologischen Ganzen ist: “The computerized calculus does not only amplify, frame and shape culture; by acting under our ordinary and daily level of consciousness, it really becomes culture.” (James Bridle, Ein neues Zeitalter der Finsternis, Allia Verlag, 2022, S. 52).
[47] Hottois, Das Zeichen und die Technik, 1984, S. 158.
[48] Siehe diesen Artikel, der nicht frei von Esoterik ist:
“Diese Angst vor dem Ersatz wäre im Grunde ein narzisstischer Angriff, eine Infragestellung des Menschen um seiner selbst willen und seines Glaubens an das, was er am einzigartigsten ist.” (Libération, Montag, 19. Juni 2023)
[49] Patrick Chastenet, À contre-courant entretiens, La Table ronde, 2014 :
“Nichts von dem, was ich getan, erlebt und gedacht habe, lässt sich verstehen, wenn man es nicht auf die Freiheit bezieht”.
Original hier: https://lundi.am/L-intelligence-artificielle-ou-la-fin-de-la-technique