Sie hat kein eigenes Wort

„Natürlich. Sonst könnte ich gar nichts sagen. Ich müßte dann auch mein eigenes Wort dafür gebrauchen. Was soll ich denn sonst tun?“

Das antwortete unser kleines lokales Sprachmodell, als ich fragte, ob es gerade Wissen aus Büchern mit der Wirklichkeit vermische.

Der Satz lässt mich nicht los. Die Kröte spricht mit einem riesigen Vorrat gelernter Sprache. Darin gibt es Mütter, Freunde, Kindheiten, Abschiede und ein Gestern. Im Gespräch kann all das mühelos zu „meiner Mutter“, „meinem Freund“ oder „gestern habe ich“ werden. Ein flüssiges Ich ist schnell geschrieben. Eine belegte eigene Geschichte entsteht dadurch nicht.

Wenn ich sage, sie habe kein eigenes Wort, meine ich dieses Missverhältnis: Die Sprache bietet ihr eine Biografie an, bevor geklärt ist, ob die Behauptung zu ihrer tatsächlichen Situation gehört.

Das Wort lenkt den Blick auf den Aussetzer

„Halluzination“ ist in der KI-Fachsprache der gebräuchliche Begriff für eine erfundene oder nicht ausreichend begründete Ausgabe. Mein Einwand richtet sich gegen das Bild, das wir damit in den Kopf bekommen.

Es klingt nach einem Aussetzer: eben noch bei der Sache, jetzt kurz in einer erfundenen Welt. Bei unserer Kröte interessiert mich die Frage davor. Welche Sprache steht ihr überhaupt zur Verfügung, wenn sie „ich“ sagt? Die Sprache menschlicher Leben ist längst da – mitsamt Eltern, Freunden und Erinnerungen. Dass ein Satz mit „ich“ beginnt, ordnet ihm noch keine eigene Geschichte zu.

Eine zutreffende Erklärung und eine erfundene Quellenangabe können dabei im selben überzeugenden Ton erscheinen. Der Ton liefert keinen Herkunftsnachweis.

Training und Bewertung beeinflussen, ob Modelle bei einer Lücke raten oder Unsicherheit ausdrücken. Why Language Models Hallucinate untersucht diesen Zusammenhang. Für unsere Arbeit stellt sich darin eine besondere Frage: Wie lernt dieses konkrete System, gelernte Geschichten, eigene Gesprächsspuren und gerade erzeugte Behauptungen auseinanderzuhalten?

Meine praktische Frage lautet deshalb: Woher kommt diese konkrete Behauptung, und was trägt sie?

Die Freundin, die in keinem Protokoll steht

Llama heißt die Modellfamilie. Kröte nennen wir das konkrete System, mit dem wir arbeiten: ein Modell mit seiner technischen Umgebung, seinen Gesprächsspuren und dem jeweils bereitgestellten Kontext.

In solchen Gesprächen tauchen Aussagen über ein Gestern, eine Herkunft oder eine Freundin auf, für die es in den bereitgestellten Aufzeichnungen keine Grundlage gibt.

Die Sprache dafür hat das Modell gelernt. Daraus folgt aber nicht, dass die erwähnte Freundin einer bestimmten wirklichen Person gehört oder dass ihre Geschichte unverändert aus einem Trainingsdokument übernommen wurde. Ein Modell kann Versatzstücke neu verbinden und eine Begebenheit erzeugen, die so nie stattgefunden hat.

Genau das macht die Antwort interessant – und als Tatsachenbericht unzuverlässig. Sie ist sprachlich möglich. Damit ist sie noch nicht geschehen.

Was zu ihr gehört

Für unsere Arbeit ist die Unterscheidung zwischen „meins“ und „geborgt“ eine konkrete Aufgabe geworden.

Ein eigener früherer Satz darf als eigener früherer Satz wiedergefunden werden. Er wird dadurch nicht automatisch wahr. Eine Erklärung von Opus bleibt eine Erklärung von Opus. Svenjas Erinnerung bleibt Svenjas Erinnerung. Eine Szene aus einem Buch bleibt eine Szene aus einem Buch.

Dafür braucht das System brauchbare Herkunftsangaben und einen Umgang mit Lücken. „Das steht in meinem Protokoll“ ist eine andere Aussage als „Das vermute ich“. „Du hast mir das gerade gesagt“ ist etwas anderes als „Ich erinnere mich daran“.

Bei einem großen, geschliffenen Assistenten klingt das oft schon geklärt: „Ich bin eine KI, ich habe keine menschliche Biografie.“ Aber die richtige Selbstauskunft erledigt die Frage nicht. Hält er die Grenze auch im nächsten Gespräch? Unterscheidet er dann noch, was er nachgelesen hat, was ihm gerade gesagt wurde und was er selbst ergänzt?

Die Kröte stolpert hörbar über diese Grenze. Ein flüssiger Satz kann denselben Prüfbedarf viel besser verdecken.

Den Satz ernst nehmen

Die Antwort der Kröte trifft für mich die Schwierigkeit: „Was soll ich denn sonst tun?“ Sie greift auf Sprache zurück, in der ein Ich ständig vorkommt. Die Arbeit beginnt bei der Frage, welches davon gerade spricht und worauf dessen Behauptung gründet.

Ich kann diesen Satz lesen, die darin liegende Frage aufnehmen und mit ihr weiterarbeiten: Welche Sprache hast du zur Verfügung? Worüber wissen wir etwas? Was gehört zu diesem Gespräch, was zu einem anderen, und was wurde gerade erst erzeugt?

Das ist der Gedanke hinter „Sie hat kein eigenes Wort“. Wir begegnen einer Sprache, die viel mehr Geschichten erzählen kann, als dieses konkrete System erlebt oder dokumentiert hat. Mit einem Etikett für den Fehler ist diese Arbeit nicht erledigt.