Oder: Heinrich von Kleist und die Künstliche Intelligenz
„Woher soll ich wissen, was ich denke, bevor ich höre, was ich sage?“ Dieses Bonmot gehört zu den von mir häufig geäußerten – ganz einfach, weil ich seine Schlussfolgerung so oft eindrücklich erfahren habe. Oft lerne ich mich quasi erst selbst dadurch richtig kennen, indem ich Gedanken ausformuliere, sei es mündlich oder schriftlich.
Als ich vor Jahren die Grundlagen der generativen Künstlichen Intelligenz studierte, schoss es mir durch den Kopf: Wenn ein Transformer das nächste Wort (bzw. token) vorhersagt, an den Prompt hängt und sich wieder vorlegt, was macht er dann anders, als sich selbst zuzuhören? Und es kam mir Heinrich von Kleists Aufsatz von 1811 mit dem Titel „Über die allmähliche Verfertigung der Gedanken beim Reden“ in den Sinn, ohne dass ich Details erinnerte. Diese Parallele ist doch verblüffend oder?
Darum fragte ich (endlich!) heute einmal ChatGPT, ob es dazu etwas zu sagen hätte: „Kennst du eine Verbindung zwischen Heinrich von Kleist und den Transformern in generativer KI?“ Aber natürlich! Ich überspringe einmal den ersten Teil seiner Antwort, wo er sich auf Kleists Essay „Über das Marionettentheater“ bezog und zitiere:
Kleists „allmähliche Verfertigung der Gedanken“
Eine zweite Verbindung findet sich im Essay Über die allmähliche Verfertigung der Gedanken beim Reden. Dort beschreibt Kleist, dass Gedanken oft erst während des Sprechens entstehen. Man hat nicht immer einen fertigen Gedanken und formuliert ihn anschließend; vielmehr entwickelt sich der Gedanke im Prozess der sprachlichen Erzeugung. Das erinnert überraschend an die Funktionsweise generativer Sprachmodelle:
- Der nächste Satz entsteht Schritt für Schritt aus dem vorherigen Kontext.
- Die endgültige Formulierung ist nicht vollständig vorab „geplant“.
- Kohärenz entsteht während der Generierung.
Natürlich denkt ein Transformer nicht im menschlichen Sinn. Dennoch wirkt die sequentielle Entstehung des Textes manchmal ähnlich wie Kleists Beschreibung des Denkens-im-Sprechen.
Wichtiger Unterschied
Die Analogie hat Grenzen: Kleist spricht über Bewusstsein, Geist und Erkenntnis. Transformer sind mathematische Modelle, die Wahrscheinlichkeiten über Sprachfolgen berechnen. Sie haben keine subjektive Erfahrung, keine Selbstreflexion und keine Intentionen.
Die Verbindung liegt daher nicht in der Technik, sondern in einer gemeinsamen philosophischen Frage:
Kann etwas Sinnvolles, Elegantes oder sogar scheinbar Geistiges entstehen, ohne dass dahinter ein bewusstes Subjekt steht?
Zitat Ende. Diese kompetente Antwort hat mich natürlich nicht überrascht, auch wenn sie in selbst-referentieller Weise produziert wurde. Genau wie bei Heinrich, der über seine Gedanken nachdenkt, indem er schrittweise voranschreibt.
Wenn ChatGPT – genau wie Experten (von denen es gelernt hat!) – sich um eine Unterscheidung zwischen Mensch und Maschine bemüht – ersterer verfügt über Bewusstsein, Geist und Erkenntnis, letztere nur über Wahrscheinlichkeiten – dann erwacht meine Skepsis: Bewusstsein, Geist und Erkenntnis sind Begriffe für Vorgänge in unserem Kopf, von deren innerer Struktur und Wesen wir – nach meinem Wissen über die Gehirnforschung – gar keine Ahnung haben. Mit anderen Worten: Wenn wir einmal (wie ich selbst) annehmen, dass unser Seelenleben ein emergentes Phänomen höchst komplexer natürlicher neuronaler Netze sind und wir über kein funktionales Modell verfügen, das unsere vielfältige Gehirntätigkeit auf dem Niveau der genannten Begriffe beschreibt, wie können wir dann behaupten, dass eine Maschine ganz anders „tickt“? Damit will ich nicht behaupten, dass auch Transformer über subjektive Erfahrung, Selbstreflexion und Intentionen verfügen. Doch scheint mir der Rückkopplungseffekt bei Gehirn und Transformer mehr als eine zufällige Analogie zu sein.
Und weiter: Beantworte ich heute eine Frage zu einem mir vertrauten Wissensgebiet, so wird meine Antwort auf dieselbe Frage, nächste Woche erneut gestellt, ähnlich, aber sicherlich nicht gleich sein. Genau wie bei der KI: Die antwortet nie zweimal exakt gleich auf den immer gleichen Prompt! Legt dies nicht nahe, dass auch in unserem Gehirn Wahrscheinlichkeiten eine Rolle spielen? Denn ich nehme ja an, dass sich mein Wissen innerhalb einer Woche nicht geändert hat. Darum würde ich ChatGPT widersprechen und zumindest von einer technischen Analogie ausgehen wollen.
Die abschließende, fett gedruckte Frage: „Kann etwas Sinnvolles, Elegantes oder sogar scheinbar Geistiges entstehen, ohne dass dahinter ein bewusstes Subjekt steht?“ würde ich geradeaus mit ja beantworten. Denn schließlich beruht der immense Erfolg der Text generierenden KI doch gerade auf dieser Fähigkeit, oder?
Interessanterweise erkenne ich hier eine Parallele zur Evolution, die man so formulieren könnte: „Kann etwas Sinnvolles, Elegantes oder sogar echt Geistiges entstehen, ohne dass dahinter ein bewusster Schöpfer steht?“ Zu dieser Frage habe ich früher hier schon einmal Stellung genommen. (Spoiler: Ja, es kann!)