Nach wie vor zeigt sich die Welt beeindruckt von ChatGPT. Die von diesem Computerprogramm auf Anfrage hin produzierten Texte sind wohlformuliert, sinnvoll, und oft durchaus hilfreich. Man bedenke, dass mehrere Hochschul-Professoren diesem GPT die Fähigkeit zugesprochen haben, schriftliche Klausuren in von ihnen gelehrten Fächern zu bestehen. Allerdings zeigt sich ChatGPT auch schnell einmal überfordert, ohne es selbst zu bemerken. Auch dies ist eine bekannte Tatsache. Das aktuelle GPT-4 soll nun nach dieser Studie über die Fähigkeiten von ChatGPT weit hinausgehen. Sollte man also nicht annehmen, dass schon jetzt oder in naher Zukunft diese GPTs menschliches Niveau erreichen, uns also quasi ebenbürtig sein werden oder gar übersteigen? Dieser Schluss liegt nahe, wenn man bedenkt, dass GPTs wie auch Gehirne ihre Funktion aus der Verschaltung von Neuronen beziehen, die im einen Fall künstlichen, im anderen Fall natürlichen Ursprungs sind. Da muss man doch vermuten, dass alles nur eine Frage der Zeit ist!
Es wird bisweilen befürchtet, „die Maschinen“ könnten eines Tages das Ruder übernehmen und die Menschheit unterwerfen, wenn nicht gar vernichten. Alternativ ist denkbar, dass Maschinen unser gesamtes Denken und Fühlen durch bequeme und verführerische Dienstleistungen unterwandern und so Macht über uns gewinnen. Ich möchte hier eine dritte Form der „Machtergreifung“ skizzieren, die uns Menschen durchaus hilfreich gelegen kommt: Die Macht durch den zwanglosen Zwang des besseren Arguments.
Betrachten wir folgende fiktionale Geschichte: Bundeskanzler Olaf Scholz stellt im Jahre 2022 einem Hochleistungs-GPT die Frage: „Soll ich der Ukraine Waffen zur Verteidigung gegen die russischen Invasoren liefern? Bitte gib mir eine ausführliche Begründung deines Rates und wäge dabei das Für und Wider sorgfältig ab!“ Der GPT plädiert in einem 30-seitigen Dokument für die Waffenlieferungen. Olaf begegnen im Text eine Menge Gedanken, die er selber schon längst im Kopf hat oder die ihm seine Ratgeber nahebrachten. Doch da findet sich auf Seite 17 unten ein starkes Argument, das noch niemand geäußert hat. Olaf ist beeindruckt: Mit diesem Argument fällt ihm die Entscheidung sofort leicht. Er äußerte es öffentlich und findet lauter Zustimmung.
Hat der GPT das besagte Argument nun irgendwo in den Trainingsdaten „aufgeschnappt“ oder hat er dies selbständig gefunden? Ich würde vermuten, dass letzteres nicht unwahrscheinlich ist. Denn genau so, wie uns Menschen etwas einfällt, d.h. aus dem Unbewussten in das Bewusstsein dringt, so ergeben sich auch neue Argumente aus der Kombination der abstrakten Erregungen des künstlichen neuronalen Netzes. Nichts spricht nach meinem Verständnis dagegen, dass GPTs im vollen Umfang des Begriffs kreativ denken, und das heißt auch: argumentieren können!
Dieser Entwicklung könnte man also mit Gelassenheit und Zuversicht entgegen sehen. Allerdings müssen wir bedenken: Die Arbeit eines GPT fußt zum einen auf dem Material, mit dem es trainiert wurde, wird aber auch von menschlichen Trainern beeinflusst, die dem System sagen, was eine „gute“ Antwort bzw. Ausgabe ist und was nicht. GPTs sind also nicht ideologiefrei! Man füttere sie mit demokratiefeindlicher Staatspropaganda, nationalistischem Ideengut und einem kollektiven Ideal nach der Devise „Du bist nichts, das Volk ist alles!“ – und schon werden Ratschläge zur aggressiven Kriegsführung deren Ausgabe beherrschen, entsprechende Anfragen vorausgesetzt.
Philosophischer Nachklapp
Ein Dualist wird bei der angedeuteten Gleichstellung von menschlichem und maschinellem „Gehirn“ sofort einwenden: Diese GPTs sind nur Maschinen, ich hingegen habe einen Geist bzw. eine Seele. Nie wird ein rein materielles System die Qualität meines menschlichen Geistes erlangen können! Das geht prinzipiell gar nicht. Ein Monist antwortet darauf: Alles, was Dualisten als Geist beschreiben, entzieht sich der Beobachtung von außen. Seine unabhängige Existenz lässt sich also nicht belegen. Viel mehr wissen wir sicher: Wenn die materielle Grundlage des Menschseins, der Körper, nicht mehr funktioniert, dann verschwindet auch alles Geistige. Genauso, wie ein GPT seinen „Geist“ aufgibt, wenn man am Computer den Stecker zieht.
Dem plausibel erscheinenden Hinweis: „Ein Mensch handelt, redet, gestikuliert, schreibt – aber er freut sich auch, jubelt, jammert oder weint. Das kann doch keine Maschine!“ lässt sich entgegnen: Zwar sind all dies beobachtbare Verhaltensweisen, aber wer sagt denn, dass ein immaterieller Geist existieren muss, um diese Phänomene hervorzubringen? Aktuelle GPTs können lediglich schreiben, aber es braucht nicht viel Phantasie, sich alle anderen „Lebensäußerungen“ auch bei einer Maschine vorzustellen – vor allem, wenn sie äußerlich dem Menschen ähnelt.
Doch wie kommt dann der „Geist“ in ein materielles System? Da muss ich ein bisschen ausholen: Wir haben schon oft die Erfahrung gemacht, die bereits Aristoteles benannt hat: Das Ganze ist mehr als die Summe seiner Teile! Das Zauberwort lautet Emergenz. Exemplarisch erinnere ich ein Beispiel von Konrad Lorenz. Hängt man eine kleine Metallkugel an einen Wollfaden, so wird sie mit einer vorhersagbaren, festen Zeitperiode schwingen, wenn man sie aus der Ruhelage lenkt. Dieses regelmäßige Schwingen ist ein Phänomen, das man bei einem Wollfaden oder einer Metallkugel alleine nicht beobachten kann, es emergiert sozusagen bei der Verknüpfung beider Teile. Genauso kann man sich vorstellen, dass der Zellhaufen unseres Körpers zu einem Menschen wird – obwohl keine der Zellen eine Ahnung davon hat, woran sie aufbauend beteiligt, geschweige denn zu irgend einer der oben aufgezählten Regungen alleine fähig ist. Dasselbe gilt natürlich auch für einen Computer mit seinen für sich genommen „dummen“ Schaltkreisen. Das erleben wir ja täglich. Es liegt also nahe, auch das Bewusstsein als ein emergentes Phänomen zu begreifen, das dann eines Tages auch bei einem Computer aufscheinen könnte. (Siehe auch dieses Video, bei dem sich deutsche Untertitel einstellen lassen!)
Besondere Aspekte der Emergenz zeigen sich in folgenden Beobachtungen: Menschliche wie künstliche neuronale Netze haben u.a. folgendes gemein:
- Beobachtet man die Erregung eines einzelnen Neurons oder auch einer überschaubaren Gruppe, so wird man über die „Bedeutung“ dieser Erregung nichts sagen können!
- Das Verhalten der neuronalen Netze lässt sich nicht vorhersagen, selbst wenn man deren Aufbau exakt kennt bzw. bestimmen könnte. Man muss sie aktivieren, um ihr Verhalten durch Beobachtung bestimmen zu können. Es gibt keinen anderen Weg!