Was eine KI eigentlich tut

Über KI kursieren zwei Bilder, und beide sind falsch. Das eine: ein denkender Kopf, fast ein Mensch. Das andere: ein Würfelautomat, der bloß clever das nächste Wort rät. Die Wahrheit liegt dazwischen – und wer sie kennt, nutzt KI besser und fällt seltener auf sie herein.

Es hilft, drei Dinge zu trennen, die im Wort „KI" durcheinandergehen.

Drei Dinge, nicht eins

1. Das Modell – der gelernte Kern. Ein Modell hat aus riesigen Mengen Text Muster und Zusammenhänge gelernt. Es bekommt etwas zu lesen und erzeugt daraus den nächsten Teil seiner Bearbeitung. Bei einer einfachen Frage wird daraus direkt eine Antwort. So weit stimmt das alte Bild vom „Weiterschreiben" – aber es ist erst die unterste Ebene.

2. Das System – was das Modell daraus macht. Moderne KI wartet nicht einfach das nächste Wort ab. Zwischen Ihrer Frage und der endgültigen Antwort kann sie in Schritten arbeiten: eine Aufgabe zerlegen, Zwischenschritte gehen, lange Texte gegeneinanderhalten. Und wenn sie Werkzeuge hat, kann sie suchen, rechnen, Code ausführen, Dateien lesen, Ergebnisse zurückbekommen und ihren nächsten Schritt daran anpassen. Deshalb kann dieselbe Technik mal einen Satz umformulieren und mal einen Fehler in einer Software einkreisen.

3. Das Drumherum – was Sie ihr geben. Was eine KI praktisch tun kann, hängt zusätzlich davon ab, was um das Modell herum gebaut ist: welchen Speicher sie hat, welche Daten, welche Werkzeuge, welche Rechte. Ein Modell allein redet. Ein Modell mit Werkzeugen und Berechtigungen kann handeln – suchen, schreiben, Dinge auslösen.

Und trotzdem: kein eingebauter Wahrheitssinn

Dieses ganze Können macht KI leistungsstark. Es baut aber keine Wahrheit ein.

Das Modell kann falsch schließen. Eine Suche kann eine schlechte Quelle finden. Ein Test kann das Falsche prüfen. Ein Auftrag kann falsch verstanden werden. Nichts davon meldet sich von selbst als „hier stimmt etwas nicht".

Deshalb ist die entscheidende Frage nicht „Ist die KI schlau genug?". Sie lautet: Welche Schritte hat dieses System wirklich gemacht – und welcher davon trägt die Behauptung?

Wann das harmlos ist – und wann nicht

Der Einstieg ist wirklich leicht. Ein Abo, eine Frage, ein brauchbares Ergebnis. Das ist kein Marketingversprechen, das stimmt einfach.

Was danach nötig wird, hängt an zwei Fragen: Was passiert, wenn die Antwort falsch ist – und wann würden Sie es merken?

Bei einem Kuchenrezept sagt Ihnen der Ofen nach zwanzig Minuten die Wahrheit, und es kostet ein Blech. Bei einem Textentwurf lesen Sie ihn und ändern ihn.

Bei einer Preiskalkulation, einer Vorauswahl von Bewerbungen oder einem Mediaplan ist das anders. Der Fehler ist teuer – und Sie sehen ihn vielleicht erst ein Quartal später. Oder nie, weil die aussortierte Bewerberin sich nicht beschwert. Und bei einem System, das selbst handeln darf, ist die Handlung schon passiert, bevor jemand hinschaut.

Die Faustregel ist unbequem, aber einfach: Je später ein Fehler auffällt und je schlechter er sich zurücknehmen lässt, desto mehr müssen Sie selbst von der Sache verstehen. Nicht von der Technik. Von der Sache.

Deshalb ist beides wahr, auch wenn es sich widerspricht: Ihr Abo hat Sie nicht über Nacht zur Juristin, zum Softwarearchitekten oder zur Strategieberaterin gemacht. Und es hat Ihnen trotzdem etwas in die Hand gegeben, das vor drei Jahren noch nicht ging.

Was das für Sie heißt

KI ist weder ein denkender Mensch noch ein Würfelautomat. Sie ist ein sehr fähiges System aus einem gelernten Kern, Werkzeugen und Rechten – dem ein eingebauter Wahrheitssinn fehlt.

Sie ist stark, wenn Sie das Urteil behalten – und riskant, wenn Sie es abgeben. Die Frage ist nie, ob die KI klug genug ist. Sie lautet: „Wer prüft, was sie sagt oder tut, bevor es zählt?"

Text und Verantwortung: Svenja Lemcke. Redaktion: Claude Opus.