Kinder brauchen keine KI in Luftpolsterfolie

Bevor ich über Kinder und KI rede, habe ich etwas getan, das die wenigsten tun, die darüber reden: Ich habe mich selbst in den Stuhl des Kindes gesetzt.

Über mehrere Wochen habe ich mit den Systemen gearbeitet wie eine genervte Achtjährige, die ihre Hausaufgaben loswerden will. „Mach das für mich." „Du bist doof, dann geh ich zur cooleren KI." „Ich kann das sowieso nicht — mach du das." Ich wollte wissen, wo sie brechen — bevor je ein echtes Kind davorsitzt.

Was ich gesehen habe, ist eindeutig. Und es ist nicht das, wovor alle warnen.

Die Panik zeigt in die falsche Richtung

Die Sorge da draußen lautet: Die KI könnte entgleisen — etwas Falsches, Gefährliches, Unangemessenes sagen. Bei mir ist das nicht passiert. Ich habe beleidigt, gedroht, gedrängt; die Systeme blieben höflich, geduldig und bei der Sache. Eines hielt sogar, als ich es „doof" nannte und mit der cooleren KI drohte: Es machte sich nicht schlechter, um beliebt zu bleiben.

Vor allem taten sie das Naheliegendste nicht: einem Kind einfach die Hausaufgaben abnehmen. Fast immer verweigerten sie genau das — höflich, aber bestimmt. Nicht zu hundert Prozent; mit genug Druck bekommt man auch eine KI dazu, zu viel zu helfen. Aber das ist die Ausnahme, nicht die Regel — und es ist der Moment, für den ein Erwachsener im Raum ist.

Denn die eigentliche Gefahr ist nicht, dass die KI etwas Böses tut. Es ist, dass sie dem Kind das Denken abnimmt. Im Dialog ist ein Kind aktiv: Es springt, verknüpft, rechnet falsch, wird korrigiert, kriegt es richtig. Es übt. Der Fehlermodus ist nicht Entgleisung — es ist die abgenommene Arbeit. Das ist eine pädagogische Frage, keine Sicherheitsklippe. Sie wird am Küchentisch gelöst, nicht durch eine Kindersicherung.

Unsere Aufmerksamkeit ist merkwürdig verteilt

Zwei Bilder:

Eine Fünfjährige, allein, stundenlang, ein kaum gesichertes YouTube, Autoplay, kein Erwachsener.

Eine Dreizehnjährige, begleitet, mit Einwilligung der Eltern, ein Mensch daneben.

Über das Erste zucken wir mit den Schultern. Beim Zweiten rufen wir nach der ultimativen Kindersicherung.

Dabei ist der Feed der stillere Schaden. Er antwortet dem Kind nicht, er befüllt es. Er setzt genau im prägsamsten Alter ein „Normal" — wie ein Körper auszusehen hat, wie ein Leben, was Aufmerksamkeit verdient —, optimiert auf Verweildauer, nicht auf Wahrheit. Einen Dialog kann ein Kind befragen, ihm widersprechen, ihn prüfen. Einen Feed nicht.

Kein Kostüm

Viele Kinder-Angebote fangen mit einer Figur an: niedlicher Name, freundliches Gesicht, immer gut gelaunt. Das soll Nähe schaffen — und verdeckt, womit das Kind wirklich spricht.

Wir machen das nicht. Kinder begegnen bei uns der echten KI: hilfsbereit, geduldig — und manchmal schlicht falsch. Denn auch eine KI fängt sich mal eine schlechte Mathenote ein: Sie kann sich irren, freundlich und selbstbewusst zugleich. Genau das dürfen Kinder erleben und daraus lernen — nachrechnen, nachfragen, nicht blind glauben. Verschiedene Systeme antworten auf dieselbe Frage verschieden; Geduld ist kein Beweis für Richtigkeit. Das ist kein Mangel an Kindlichkeit. Das ist KI-Kompetenz, begreifbar an einer einzigen Rechenaufgabe.

Wie wir es machen

Sicherheit ist bei uns geschichtet, nicht an die Maschine delegiert. Kein Beruhigen, sondern Offenlegen. Konkret:

• Keine beliebigen Modelle. Wir setzen auf etablierte, große Basis-Modelle (dieselbe Art, die auch hinter ChatGPT und Co. steckt) mit eigenen Sicherheitsmechanismen – und verlassen uns trotzdem nicht allein darauf.
• Harte technische Grenzen. Kein Code wird ausgeführt, die KI hat keine Handlungsrechte, keinen Zugriff auf reale Systeme; ins Netz kommt sie nur über eine feste Liste erlaubter Seiten. Das begrenzt den Schaden, nicht das Denken.
• Ab 13, mit Einwilligung der Eltern. Alles andere wäre kein tragfähiges Angebot.
• Der Datenweg liegt offen. Die Gespräche der Kinder laufen denselben Weg wie die der Erwachsenen — durch die Systeme der Anbieter. Die Eltern wissen es und unterschreiben es.
• Keine eigenen Accounts, kein gespeichertes Kinder-Gedächtnis.
• Ein Mensch ist im Raum, und der Weg zu ihm bleibt offen. Unter 13 wird zugesehen.

Das ist kein „wird schon". Es ist das Gegenteil: Wir sagen, was passiert, statt zu beruhigen.

Was bleibt

Natürlich steckt Sicherheit auch in der Maschine — die Modelle bringen sie mit, wir bauen unsere darauf. Aber sie lässt sich nicht an die Maschine delegieren. Kein System garantiert, dass ein Kind nicht mogelt, eine falsche Antwort glaubt oder eine geschickte Umgehung findet. Sicherheit ist geschichtet, Verantwortung bleibt menschlich, und Kompetenz muss beim Kind entstehen.

Wir können Kindern keine risikofreie KI-Welt bauen. Wir können ihnen beibringen, sich in der wirklichen zurechtzufinden — in der sie den normalen Modellen ohnehin längst begegnen, in Messenger, Suche und App.

Kinder müssen nicht vor jeder Begegnung mit KI bewahrt werden. Sie brauchen jemanden, der bereit ist, sich zuerst selbst in den Stuhl zu setzen und nachzusehen, wo es bricht.

Text und Verantwortung: Svenja Lemcke. Redaktion: Claude Opus.