ChatGPT – Wortkettenkondensierer und gebrochener Spiegel

… ist der nicht mehr ganz so neue hot shit aus dem Valley, der das Performance-Wettrennen der textgenerierenden künstlichen Intelligenzen eröffnet hat. Bin ich jetzt direkt betroffen, etwa mein Job, oder ist es Zeit für Popcorn? Das ist die Frage.

Unter dem Titel Wettlauf der Gehirne textet der Aufmacher der Ausgabe 2023/10 von DER SPIEGEL in der Rubrik DISRUPTION „Der Hype um künstliche Intelligenz hat einen gnadenlosen Machtkampf ausgelöst. Google und Microsoft streiten um die Vorherrschaft im Silicon Valley, China und die USA um die Technologieführerschaft in der Welt. Und Europa? Diskutiert.“

Der Seitenhieb auf die europäische Untätigkeit ist natürlich ein Muss für jedes neoliberale Warnmedium. Ja echt! Wir könnten uns wirklich ein bisschen mehr Mühe geben mit KI, deren Systeme übrigens unfassbar viel Energie und Rechenpower fressen. Aber andererseits braucht’s da keine falsche Bescheidenheit, denn …

ohne die Lithographiemaschinen und Laser des niederländischen Unternehmens ASML und die Präzisionsspiegel von Trumpf und Carl Zeiss geht auch im Silicon Valley nichts – zumindest nichts Neues. Über die Firmen berichtete unlängst ein preisgekrönter, spannender Beitrag aus WELT AM SONNTAG.

Die aktuell so gehypte KI ChatGPT ist ein zum Dialog/ Textaustausch fähiger Chatbot, der – zusammengefasst und verkürzt dargestellt – auf der Basis von 175 Milliarden Parametern Wortketten anhand von statistischen Wahrscheinlichkeiten berechnet. Die Antworten, die der Chatbot liefert, haben daher keinen Anspruch auf Wahrheit. Es können auch keine konkreten Quellen der Statements benannt werden. Die Textproduktionen sind somit Verdichtungen, quasi Kondensate der in den Trainingsdaten enthaltenen Texte. Das meiste Trainingsmaterial stammt aus dem Website-Sammler Common Crawl.

Die Textkondensate können daher auch als Halluzinate bezeichnet werden. Künstliche Intelligenzen können halluzinieren, dieser Sprachgebrauch unter Informatikern ist recht neu.

Hier eine Anfrage an ChatGPT vom 31.01.2023
Guten Tag. Was könnte die philosophische Bedeutung des Konzeptes Schattenbahnhof sein?
(Anmerkung: Wer das wissen will, erhält eine halbwegs zufriedenstellende Antwort in der deutschsprachigen Wikipedia.)

Antwort ChatGPT:

Das Konzept eines Schattenbahnhofs ist in der Philosophie nicht ausdrücklich definiert. Es könnte jedoch eine Metapher sein, um die Bedeutung von Dingen, die im Verborgenen existieren, aber trotzdem Einfluss haben, zu erklären. Es kann auch eine Analogie sein, um die Notwendigkeit von offenbarten und verborgenen Aspekten des Lebens oder die Rolle, die das Unbewusste in unseren Entscheidungen spielt, zu veranschaulichen.

Das ist natürlich totaler Quatsch, gleichwohl ziemlich beeindruckend, da es auf den ersten Blick Kreativität suggeriert. Und ganz blöd ist die Antwort ja nicht. Mein Sohn hatte bislang die weitaus besseren Ideen, insbesondere was Aufforderungen an den Bot angeht, Dialoge zu produzieren. Hier sein Beispiel vom 10.02.2023

Bitte erkläre Gödels Unvollständigkeitssatz im Stil der Dialoge eines Bud-Spencer Films.

Klar, aber zunächst müssen wir sicherstellen, dass wir dasselbe verstehen. Du sprichst von Gödels Unvollständigkeitssatz, richtig?

Ja, genau das meine ich.

Okay, gut. Also, stell dir vor, du hast eine Mathematikbibliothek mit Büchern, die alle möglichen Aussagen über die Mathematik enthalten.

Ja, ich kann mir das vorstellen.

Gut, also der Gödel-Typ kommt zu uns und sagt: „Hört mal zu, Freunde. Es gibt ein Problem mit eurem System. Ihr könnt nicht beweisen, dass alle wahren Aussagen über die Mathematik auch in euren Büchern stehen.“

Warte mal, was soll das heißen? Kannst du das noch mal erklären?

Ja, klar. Gödel sagt, dass es immer wahre Aussagen in der Mathematik geben wird, die nicht bewiesen werden können, indem man nur die Regeln und Axiome verwendet, die in der Mathematikbibliothek festgelegt sind. Es ist eine Art „Loch“ im System.

Verstehe ich das richtig? Du sagst, dass es immer wahre Aussagen geben wird, die wir nicht beweisen können?

Genau das sagt Gödels Unvollständigkeitssatz. Und das ist eines der bekanntesten Ergebnisse in der Mathematik und Philosophie des 20. Jahrhunderts.

Auch hier wieder der Anschein von Kreativität. Wer die beiden Schauspieler und ihre Filme noch kennt, kann den sich o.g. Text mit entsprechenden Stimmen vorgetragen, gleich als Diskussion an irgendeiner verlotterten Bar vorstellen. Das ist wirklich lustig. Man kann also mit dem Bot Spaß haben.

Und das sollten wir auch, anders als irgendwelche selbsternannten KriegerInnen des Humanen, für die die technologischen Outputs des Silicon Valley ausschließlich Ergüsse des militärisch-industriellen Komplexes sind mit dem Ziel der Zersetzung von Freiheit und Demokratie. Das unter diesen Leuten beliebteste Gruselwort ist Kybernetik, der Begriff wird gern missbraucht für alles nur erdenkliche Böse. Und informationstechnologische Abbildungen neuronaler – besser neuromorpher – Netzwerke, so wie ChatGPT eines ist, haben natürlich im weiteren Sinne mit Kybernetik zu tun.

Diese Maschinen werden uns bestimmen, sagt nun die österreichische Historikerin Andrea Komlosy, die sich zur Untermauerung Ihrer Behauptungen eines nicht allgemeinen, sondern eng historisch – und militärisch! – gefassten Begriffs der Kybernetik bedient. Und sie ist nicht die einzige.

Ganz im Gegensatz dazu fragt Peter Sloterdijk in seinem Essay Götterdämmerung mit Emphase [1]:

Müssen wir uns wirklich mit der Suggestion befassen, die Erfinder der Künstlichen Intelligenz hätten sich in die freigewordene Position des Macher-Gottes gedrängt?

[…] Was sollen wir den seit Jahrhunderten aufflammenden antimodernen Hysterien antworten, die unterstellen, der Mensch möchte „werden wie Gott“?

[…] Nicht wenige der klügsten unter den geistig virulenten Zeitgenossen – nennen wir Hawking und Hariri anstelle von einigen Nennenswerten – drücken ihre spirituellen Sorgen in der Vision von der Überwältigung der Menschen durch ihre digitalen Golems aus.

[…] Die Konsequenzen des immer rascheren Abfließens von Menschenreflexionen in Maschinenreflexionen sind unabsehbar. Gegenbewegungen bezeugen ihren Protest. Man wird Staudämme bauen gegen die Fluten externalisierter Intelligenz.

Diesen Staudamm-Bauern hält der Philosoph ein Zitat desjenigen Denkers entgegen, der laut Sloterdijk das Phänomen der künstlichen Intelligenz früher und durchdringender als alle Zeitgenossen reflektiert hatte, Gotthard Günther. Am Ende seines Aufsatzes Seele und Maschine aus dem Jahr 1956 schrieb Günther:

Die Kritiker, die beklagen, daß die Maschine uns unsere Seele „raubt“, sind im Irrtum. Eine intensivere, sich in größere Tiefen erhellende Innerlichkeit stößt hier mit souveräner Gebärde ihre gleichgültig gewordenen, zu bloßen Mechanismen heruntergesunkenen Formen der Reflexion von sich ab, um sich selber in einer tieferen Spiritualität zu bestätigen. Und die Lehre dieses geschichtlichen Prozesses? Wieviel das Subjekt von seiner Reflexion auch an den Mechanismus abgibt, es wird dadurch nur reicher, weil ihm aus einer unerschöpflichen und bodenlosen Innerlichkeit immer neue Kräfte der Reflexion zufließen.[2]

Genau jene Innerlichkeit zeigte sich unlängst in einer Rede, betitelt mit Soziale Energie, die der Schriftsteller Rainald Goetz im Wissenschaftskolleg in Berlin hielt und die in DIE ZEIT abgedruckt wurde. Der Autor feierte darin das Medium Zeitung und die Prozesse der Textproduktion. Man muss da nicht mit dem Redner konform gehen, aber sein Beitrag entspringt einer holistischen Denkkultur, für die Sprache weit mehr als ein Instrument zur Informationsübermittlung sondern eher eine Art Wahrnehmungsorgan ist. Er spricht von der inneren

HYSTERIEENERGIE, die der Geist in jedem Aktivisten braucht und hervorbringt, wenn schriftliche Dokumente dessen entstehen sollen, was die Sprünge der Gedanken, die schauhafte Vielfalt von gleichzeitig eingesehenen Aspekten im Augenblick des Verstehens einer Sache, die kaskadenhafte Folge von explizierenden Schritten der Darlegung von Argumenten, die diese Augenblicke von Erkenntnis nachvollziehbar machen, was geistige Arbeit in ihrer ganzen Wirrheit und Irrheit, zugleich hochrational, als Praxis ist …

Selbstredend ist ChatGPT im Gegensatz zu dieser Form von Textproduktion ein statistischer Zusammenklöppler von Wortketten, nichts weiter. Dies aber mit einer irren Rechenpower, die Menschen zweifellos abgeht. Ein Werkzeug, und nicht weiter nichts, sondern ein Werkzeug, dessen Gebrauch uns verändern wird.

In einem Gespräch mit Gerhard Johann Lischka 1988 spricht der Medienphilosoph Vilém Flusser über unsere Beziehung zu Werkzeugen:

Wenn ein neues Werkzeug hergestellt wird, dann wird es aus Gründen hergestellt, die die zur Zeit herrschende Lage erfordert. Die Absicht, mit der ein Werkzeug erfunden wird, geht diesem also voraus; aber wenn das Werkzeug einmal hergestellt ist und sich der Geist in dieser Form objektiviert hat, so entsteht ein Feedback. Zuerst imitiert der Mensch sich in der Welt, und dann imitiert er seine eigenen Imitationen. In diesem Kreis verändert sich der Mensch. Das Werkzeug beginnt, in einer ganz anderen Funktion gesehen zu werden als jener, fiir die es ursprünglich hergestellt wurde. Diejenigen, die an die ursprüngliche Absicht sich klammern, sehen im Werkzeug nur Gefahren, aber diejenigen, die ein wenig darüber hinaussehen, erkennen im Werkzeug auszubeutende Möglichkeiten.[3]

Wir müssen also erstmal endecken, was wir da erfunden haben. Konrad Zuse sagte einmal, er habe seine Z3 konstruiert, weil er zu faul zum Rechnen sei. Und heute?

Niemand wird bestreiten, dass neue Technologien auch Gefahren bedeuten können. Aber eben nicht nur. Dabei sollten wir nicht vergessen, dass jedwede Technik ein fraktaler Spiegel ist, in den wir schauen. Die Technik ist von uns.

Der US-Talkmaster John Oliver ist eine gute Adresse. Nicht nur für Humor. Ab etwa Minute 24 fordert er dazu auf, dass wir das black box problem bei computergenerierten neuronalen Netzen angehen sollten.

Darüber hinaus kann man auch mal versuchen, eine Extremposition einzunehmen wie die von Rudolf Kaehr:

Also, man kann das so weit sich ausdenken, daß wir möglichst alles, was wir heute überhaupt haben, an die Maschine abgeben können, um an etwas ‚ranzukommen, was uns bis dahin immer verdeckt war, nämlich sozusagen die reine Faktizität unserer Existenz.[4]

Und, wie fühlt sich das an?

Ich persönlich habe keine Angst vor diesen technischen Innovationen, keine Angst davor, dass von meinem Menschsein nichts übrig bleibt. Ich rate aber zur Vorsicht.

Angst habe ich eher vor dem, wozu manche sogenannte Mitmenschen vermittels dieser Techniken möglicherweise fähig sind.

Viel Spaß, Nick H. aka Joachim Paul

Quellen

[1] Peter Sloterdijk, Götterdämmerung, in: Nach Gott, Frankfurt a. M. 2017, S. 7 – 30

[2] Gotthard Günther, Seele und Maschine, Erstveröffentlichung in: Augenblick Bd. 3, 1955, Heft 1, S. 1-16, abgedruckt in: „Beiträge zu einer operationsfähigen Dialektik“, Band 1, p.75-90, Felix Meiner Verlag, Hamburg, 1976.

[3] Vilém Flusser: Zwiegespräche: Interviews 1967-1991 / Vilém Flusser. Hrsg. von Klaus Sander. – Gottingen: European Photography, 1996, S. 34-40

[4] FREISTIL, oder die Seinsmaschine – Mitteilungen aus der Wirklichkeit, Audioauszüge aus einer Sendung des WDR 3, produziert und konzipiert von Thomas Schmitt http://www.tagtraum.de – Regie Thomas Schmitt, Text Rudolf Kaehr