Wer hat Angst vor der Superintelligenz? Wer hat Angst vor Märchen? WTF!

tl;dr: Die Idee der technologischen Superintelligenz, der Maschine, die intelligenter ist als wir, ist ein Objekt des Glaubens und nicht der forschenden, wissenschaftlichen und konstruierenden Tätigkeit von uns Menschen. Sie entspricht – in ihrer Struktur – der mittelalterlich-alchimistischen Hoffnung auf das künstliche Menschlein, den Homunkulus und auch dem neoliberalen Glauben an eine übergeordnete Rationalität des „freien Marktes“. Sie folgt damit auch dem mainstream-Zeitgeist einer neoliberal komplett durchgebimsten Welt. Zwischen Homunkulus und Robot gibt es jedoch einen ganz prinzipiellen Unterschied. Beim Robot weiß der Konstrukteur, was er getan hat und kennt somit auch die Grenzen der Maschine.

Das WTF-Märchen von der Superintelligenz

Unsere Maschinen werden immer intelligenter, heißt es. Gemeint sind natürlich Computer, z.B. IBMs Watson, Deep Blue im Schach und zuletzt AlphaGo im altchinesischen Go-Spiel. Darüber hinaus Computernetze und jedes mit Sensoren und Aktoren ausgestattete technische „Ding“, also Roboter, selbstfahrende Autos und – ganz besonders schlimm – Drohnen.

Wobei hier – das muss wirklich gesagt werden – der Begriff „Intelligenz“ recht unscharf und vage gehalten ist.

Und eines Tages, zu einem Zeitpunkt, der – je nach charakterlicher Ausrichtung und Geschmack – entweder in wohlig gänsehäutiger Vorfreude oder in Horror-Alpträumen „technologische Singularität“ genannt wird, werden diese Maschinen genauso intelligent sein wie wir und uns per Maschinen-Evolution sogar noch überholen. Dann übernehmen sie die Weltherrschaft und wir haben keine Zeit mehr, rechtzeitig den Stecker zu ziehen.

Zu spät für die Kabelzange. Terminators SKYNET lässt grüßen. Oder die MATRIX. Oder HAL 9000 in Kubricks 2001 Odyssee im Weltraum, ach nee, sorry, der wird ja abgeschaltet, kicher.

Die Angst vor einer Superintelligenz geht um – auch bei Leuten, die daran basteln und von denen man das erst mal so nicht erwarten würde. Warum? Gefühlt das halbe Silicon Valley gehört dazu, Leute wie Ray Kurzweil, der erste Gedanken dazu in seinem Werk „Homo Sapiens“ veröffentlichte, Elon Musk (Tesla, Space-X), der PayPal-Gründer Peter Thiel und viele andere aus dem Valley, der Oxforder Philosoph Nick Bostrom, ein engagierter Transhumanist und Autor von „Superintelligenz“, und sogar der Physiker Stephen Hawking. Sie alle warnen vor der maschinellen Intelligenz, die eines Tages – und dieser Tag, so wird prophezeit, ist natürlich nicht fern – die biologisch evolvierte menschliche Intelligenz besiegen, unterjochen oder gar auslöschen würde.

Im Interview mit Jay Tuck „Lernfähige Computer sind nicht mehr kontrollierbar“ in der Zeitung „Junge Welt“ vom 3./4. September 2016 offenbart sich der eklatante gedankliche Fehler. Er sagt: „Denken Sie an ‚Frankenstein‘. Das ist eine klassische Geschichte über eine Wissenschaft, die Amok läuft.“

Und ich frage mich, was geht da ab? Denn Frankenstein, das ist KEINE Wissenschaft.

Jedoch das kulturelle Motiv dazu ist uralt. Schon in der mittelalterlichen Geschichte vom Golem des Rabbi Löw soll das kabbalistische Kunstwesen Golem im Prag dieser Zeit die jüdische Gemeinde vor einem Pogrom schützen. Die Geschichte von Mary Shelleys Frankenstein kennen wir. Der Arzt Dr. Victor Frankenstein schnippelt und näht mehr oder weniger gut erhaltene Leichenteile zusammen, platziert sie dann so, dass ein Blitz einschlägt und erschafft ein pseudomenschliches Monster, dessen Verhaltensweise er weder versteht noch kontrollieren kann. Goethes Gedicht vom Zauberlehrling „Walle, walle, das zum Zwecke … die Geister, die ich rief …“ gehört in dieselbe Ecke.

Der Blitz, das ist die Metapher, das sprachliche Bild vom göttlichen Odem, vom Funken Gottes, und ab da ist der Mensch aus dem Spiel. Donar, die altgermanische Gottheit mit dem Donnerstag, Wotan, Odin und Thor lassen hier grüßen. Und auch Jahwe aus dem alten Testament, der brennende Dornbusch. Oder war es doch Loki, der germanische Luzifer, der Lichtbringer? Egal, Walhalla oder Asgard. (Geiles Bier übrigens, aus Schleswig!)

Der Blitz, der Bewusstseinsfunke, das ist auch das Moment, das in dem – richtig wunderbaren – Film von John Badham aus dem Jahr 1986 „Nummer 5 lebt!“ den kleinen Kriegsroboter zu etwas Neuem macht, an dem sein Konstrukteur im Film, der Informatiker und Philosoph! Dr. Newton Crosby, intellektuell schier verzweifelt. Denn Nummer 5 entwickelt eine eigene Ethik und die Liebe zum Leben. „Keine Funktionsstörung, Nummer 5 lebt!“

Let‘s get serious again …

Aber wenn man auf magische Rituale oder singuläre Blitzmomente, in denen sich der Schöpfer der Welt äußert, verzichten will, dann ist die Frage, was macht ein Konstrukteur, wenn er etwas konstruiert, was macht ein Programmierer beim Programmieren? Denn das menschliche Subjekt als technisch denkendes und handelndes Subjekt, darf in einer vollständigen Betrachtung nicht fehlen.

Das muss dann in Verbindung gebracht werden mit der weiteren Frage, ob sich Intelligenz – häufig synonym verwendet zum Begriff Bewusstsein – technisch konstruieren lässt und was für Voraussetzungen dazu notwendig sind.

Gerade die Beantwortung der letzten Frage „ist […] für ein unbefangenes, vorurteilsloses Denken vollkommen offen“, schreibt der deutsch-amerikanische Philosoph und Logiker Gotthard Günther in seiner bedenkenswerten Publikation „Das Bewusstsein der Maschinen“. Die 1. Auflage ist aus dem Jahr 1957!

In einer heutzutage selten bis gar nicht mehr vorhandenen sprachlichen Klarheit argumentiert der „Philosoph der Kybernetik“ weiter (Ich scheue mich geradezu, das umzuformulieren, denn besser geht es imho nicht. Und es ist auch lang. Aber im Netz ist ja Platz …) :

„Was allein unwiderleglich feststeht, ist, dass es nicht möglich ist und nie möglich sein wird, ein volles menschliches Selbstbewusstsein als Robotgehirn zu entwerfen. Und zwar aus dem folgenden Grunde: die Logik bzw. Mathematik, in der ein solcher „mechanical brain“ beschrieben wird, muss von einem höheren Sprachtypus [4] sein als derjenige, den das Robotgehirn braucht, um seine Begriffe zu produzieren. In der Ausdrucksweise der symbolischen Logik: die Konstruktion eines Robots muss in einer Sprache erfolgen, die relativ zu der Sprache, in der ein Robot „denkt“, die Metasprache ist. Nun gibt es aber zu einer Sprache, die Begriffe wie „Ich“, „Du“ oder „Selbst“ als logisch relevante Ausdrücke enthält, keine Metasprache mehr. Eine solche Sprache ist von höchstmöglicher logischer Ordnung. Wenn also ein Konstrukteur versuchte, einem „mechanical brain“ die eben genannten Begriffe und damit ein Denken in einer Sprache höchstmöglicher Ordnung einzubilden, dann bliebe ihm keine Metasprache mehr, in der er ein solches Robotgehirn entwerfen könnte. Umgekehrt: reserviert der Konstrukteur einen solchen Sprachtypus für die Darstellung seines Entwurfes, dann kann er dem Entwurf selber nur ein niedereres Sprachniveau, in dem solche Worte (Begriffe) noch nicht auftreten, zuschreiben.[5] Ein Gehirn aber, das den Begriff „Selbstbewusstsein“ prinzipiell nicht konzipieren und in seiner Sprache bilden kann, hat auch kein Selbstbewusstsein. Es wird also nie möglich sein, einen Robot, der Selbstbewusstsein besitzt, zu konstruieren, weil ein „mechanical brain“, der Worte wie „Ich“ und „Selbst“ gebrauchen kann und weiß, was sie bedeuten eine Sprache spricht, zu der es keine Metasprache mehr gibt, in der sein technischer Entwurf vom Konstrukteur konzipiert werden könnte. Wenn beide die gleiche Sprache sprächen, dann wären Schöpfer und Geschöpf einander geistig ebenbürtig. Dies ist absurd.“[1]

Die Fussnote 5 aus obigem Zitat, in der Günther sich auf den Logiker Alfred Tarski bezieht, darf natürlich nicht vorenthalten werden. Sie ist ebenfalls lang (wie übrigens Programmcode auch, gelegentlich, kicher):

„Für denjenigen Leser, der an diesem Grundproblem einer allgemeinen Theorie eines „mechanical brain“ näher interessiert ist, seien im folgenden die vier logisch möglichen Sprach- und Ausdruckssysteme mitgeteilt. Man unterscheidet
1. Sprachen, in denen alle Ausdrucksvariablen zu einer und derselben semantischen Kategorie gehören;
2. Sprachen, in denen die Anzahl der die Variablen umfassenden Kategorien größer als 1, aber stets endlich ist;
3. Sprachen, in denen die Variablen zu unendlich vielen semantischen Kategorien gehören, wobei aber die Ordnung dieser Variablen eine im vornhinein gegebene natürliche Zahl nicht überschreitet, und schließlich
4. Sprachen, die Variable beliebig hoher Ordnung enthalten.
(Vgl. Alfred Tarski, Der Wahrheitsbegriff in den formalisierten Sprachen, Studia Philosophica, Leopoldi 1935, bes. S. 81).

Alle höher entwickelten Umgangssprachen, die Begriffe wie „Ich“ und „Selbst“ enthalten, gehören der vierten Sprachordnung an. Jede dieser Sprachordnungen ist relativ zu den niederen eine Metasprache. Und man kann über eine Sprache nur in einer ihr übergeordneten Metasprache wissenschaftlich exakt sprechen. Auf dem Niveau des vierten Sprachtypus, der auch Universalsprache genannt wird, kann man über alles sprechen; allerdings mit der höchst beträchtlichen Einschränkung, dass man in der Logik, die diese Sprache beschreibt, Paradoxien und Antinomien in Kauf nehmen muss, wenn man über „Tatbestände“ spricht, deren Begriffe erst auf diesem Sprachniveau sich bilden. Solche Begriffe sind z.B. „Ich“ oder „Selbstbewusstsein“. Paradoxien aber sind nicht als technische Objekte konstruierbar.“[1]

Nun denn, die Indiziensammlung von Nick Bostrom in „Superintelligenz“ ist durchaus ernstzunehmen und stellt für sich betrachtet natürlich eine Fleißarbeit dar.[2]

Ein Kernargument ist das der sogenannten Seed AI, der säenden artificial intelligence, die Idee Eliezer Yudkowskys, dass eine sog. Künstliche Intelligenz mit der Möglichkeit ausgestattet wird, den eigenen Programmcode so zu verbessern, dass in der nächsten Generation die Performance wiederum besser aussieht. Quantitativ, in Geschwindigkeit und Speicherkapazität.

Eine richtige Seed AI jedoch muss den Anwendungszweck und die Gestaltung des eigenen Programmcodes verstehen, um eine weitere Generation mit verbesserter Intelligenz zu erstellen. Selbstreferenz heißt eben nicht, dass ein Programm lediglich seinen eigenen Code ausdrucken können muss (Was ausgeprägte Kurzdenker in der Informatik immer noch glauben, die ein Quine für die Krone allen Denkens halten.)

Es geht um ein Verhältnis zu sich selbst, dass aber in der Theorie formaler Systeme bislang verboten ist, um Antinomien zu vermeiden, dazu gehört auch der Tausch der Rollen von Operatoren und Operanden – Zwischenruf: Geht aber wohl! – Antwort, Jahaa, aber nicht simultahaan! Paralleehel!

Nein! – Doch! – Ooaargh!

Dazu sind selbstreferentielle Kalküle notwendig – die gibt‘s schon, in der Polykontexturalen Logik, sie sind aber noch nicht maschinell – was aus Gründen, die hier nicht ausgeführt werden können, eine besondere Schwierigkeit darstellt – implementiert …. und sie beinhalten, weil sie selbstreferentiell sind, das Moment der Subversion, das daher auch sich selbst den Stecker ziehen kann ….

Wenn es um Erkennen, also Kognition, und Wollen, Volition, geht müssen wir kapieren, dass es eben Lebewesen sind, die Kognitionen haben. Und diese waren einer Evolution unterworfen.

Nun kann wieder eingewendet werden, dass eine Seed AI diesen Punkt irgendwann erreicht haben wird, den Punkt, an dem die Evolution der Algorithmen – selbsttätig – losläuft. Und wer gibt den Startschuss? Etwas von toter Materie zum Leben befördert haben wir bislang nicht, alles, was in der Gentechnik getrieben wird, ist Veränderung, Veränderung von Materie, die vorher schon lebte.

Wo also soll der Kick-Off der maschinellen Evolution herkommen? Magische Momente wie oben? Kurzschluss? Blitzschlag? Ohh Wotan weiche von mir …, nee, danke. Das kulturelle Vorstellungsmuster ist ja bekannt.

Ich behaupte, das mit der Superintelligenz ist unsere eigene, leider allzu oft fehlende Achtung vor dem Leben, die auf uns selbst als Urangst zurückschlägt. Das ganze ist – psychologisch betrachtet – eine ungeheure Projektion.

Mit der sich aber in der Form von Büchern und Fernsehdokumentationen reichlich Geld einnehmen lässt. …

Und sie deckt sich in ihrer Struktur mit der neoliberalen Vorstellung einer übergeordneten Rationalität, einer Art Supersumme der Rationalität der freien rationalen Marktteilnehmer – alles, alles kleine homo oeconomicusse, rofl, die der einzelne kleine homo oeconomicus eben nicht erklären kann.

Frage: Ok, gut, Joachim, hast Du denn gar keine Angst?
Antwort: Vor einer Superintelligenz oder der technologischen Singularität jedenfalls nicht. Aber ich habe eine Scheißangst davor, was gewisse Leute – also Menschen – mit halbwegs intelligent konstruierten algorithmischen Maschinen schon heute alles anstellen und möglicherweise morgen noch anstellen werden ….

Zum Abschluss noch einmal Gotthard Günther zur Zukunft:

„Hier waltet ein Gefühl, in dem, vorläufig noch unausge­spro­chen, die Einsicht lebendig ist, dass in dem intelligenten Robot dem Menschen seine eigene vergangene Geistigkeit entge­gentritt; eine Geistigkeit freilich, die er als Arbeit an die Außenwelt hat abgeben müssen, um einen Weg für ein weiteres und tieferes Verständnis seiner selbst frei­zumachen. Was uns in der Maschine be­gegnet, ist gewe­senes Leben, ist lebendiges Fühlen und alte Leidenschaft, die der Mensch nicht ge­scheut hat, dem Tode der Objektwelt zu übergeben. Nur dieser Tod ist das Tor zur Zu­kunft.“[3]

Wir haben eine kulturelle Grundausstattung – und die besteht im wesentlichen aus unseren Umgangssprachen und den formalen Sprachen der Mathematik und der Logik. – Nutzen wir sie. Erweitern wir sie. Konstruieren wir Maschinen. Gemeinsam, demokratisch. Das ist menschlich. Alles andere ist Bullshit.

Schönen Sonntag noch, Nick H.

Quellen:

[1] Günther, Gotthard; Das Bewusstsein der Maschinen, 3. Aufl. Baden-Baden 2002, S. 212f
[2] Bostrom, Nick; Superintelligenz; Berlin 2014
[3] Günther, Gotthard; Maschine, Seele und Weltgeschichte; in: Beiträge zur Grundlegung einer operationsfähigen Dialektik, Bd III, Hamburg 1980, S. 211 – 235, online