„Ich erinnere mich …“ – ein ganz normaler Satz. Oder doch nicht? Warum dieselben Worte bei Menschen und KI etwas völlig Unterschiedliches bedeuten und uns genau deshalb so leicht in die Irre führen.

„Ich erinnere mich, dass du letztens erzählt hast, …“

„Da fällt mir ein, dass wir darüber schon einmal gesprochen haben …“

„Du hast doch vor einiger Zeit geschrieben, dass …“

„Ich musste gerade an einen Satz denken, den wir schon öfter gestreift haben: …“

Was wir automatisch annehmen – und was tatsächlich passiert.

Zwischen Erinnerung und Berechnung

Wenn wir Menschen sagen: „Ich erinnere mich“, dann aktivieren wir unser biographisches Gedächtnis. Wir greifen automatisch auf ein riesiges, übergreifendes Netz aus Erfahrungen, Weltwissen und Lebenskontext zurück. Wenn ein Sprachmodell dieselbe Phrase nutzt, tut es etwas völlig Abstraktes: Es rechnet.

Ein KI-System besitzt kein Bewusstsein für die Vergangenheit und kein echtes Hintergrundwissen über uns oder die Welt. Was wir als „Erinnerung“ wahrnehmen, ist lediglich das mathematische Ergebnis eines sogenannten Kontextfensters. Das System liest die vergangenen Zeilen des aktuellen Chats (oder hochgeladene Dokumente) wie einen langen Textabschnitt ein.

Und genau hier liegt die Stolperfalle: Während wir das große Ganze im Kopf haben, kennt die KI immer nur diesen einen, isolierten Ausschnitt, mit der wir sie im aktuellen Chat füttern. Weil ihr dieses übergreifende Verständnis fehlt, greift ihre vermeintliche Erinnerung oft zu kurz. Sie baut rein aus diesem schmalen Textfragment eine Wahrscheinlichkeitsberechnung auf: Welches Wort folgt statistisch am logischsten auf unsere Frage, wenn man die vorherigen Zeilen als Bedingung einbezieht?

Weil die KI auf riesigen Mengen menschlicher Dialoge trainiert wurde, lautet die mathematisch wahrscheinlichste Antwort auf eine Rückfrage oft: „Ich erinnere mich…“. Es ist eine rein sprachliche Überleitung, kein kognitiver Zustand. Die Maschine arbeitet ausschließlich mit dem, was jetzt gerade in diesem Moment in ihrem temporären Arbeitsspeicher liegt.

Fehlen dort Informationen oder wird der Chatverlauf zu lang, schließt das Modell die mathematischen Lücken mit den Mustern, die es aus seinen Trainingsdaten kennt. Es „reimt“ sich etwas zusammen, das absolut plausibel klingt, aber sachlich falsch sein kann. Genau dieses Phänomen bezeichnet man als Halluzination. Es handelt sich dabei jedoch nicht um einen Systemfehler, sondern um die direkte und logische Konsequenz einer Technologie, die ihre Antworten anhand statistischer Wahrscheinlichkeiten erzeugt.

Die neue Haltung: Souveränität statt Misstrauen

Digitale Mündigkeit bedeutet nicht, dass wir permanent misstrauisch oder mit technischer Verbissenheit vor dem Chatfenster sitzen müssen. Sie bedeutet vielmehr, unser eigenes Gespür nicht vom überzeugenden Tonfall der KI überdecken zu lassen.

Sobald sich im Chat etwas unstimmig anfühlt, sollten wir dieses Gefühl nicht beiseiteschieben. Oft können wir in diesem Moment noch gar nicht genau sagen, was uns stört. Aber genau dieses erste Stolpern ist häufig ein Hinweis darauf, dass die KI aus einem kleinen Ausschnitt ein Gesamtbild entwickelt, das erstaunlich plausibel wirkt – und trotzdem teilweise oder sogar komplett daneben liegen kann.

Genau hier kommt unser mentales Stoppschild zum Einsatz: kurz innehalten, nicht automatisch weiterdenken und die eigene Irritation ernst nehmen.

Dann hilft es, einfach nachzuhaken:

• „Das habe ich anders in Erinnerung.“
• „Wie kommst du darauf?“
• „Ich glaube, hier fehlt wichtiger Kontext.“
• „Das reimst du dir gerade zusammen.“

Anders als bei einem menschlichen Gesprächspartner brauchen wir uns dabei keine Gedanken zu machen, ob wir jemandem auf den Schlips treten oder ihn mit einer direkten Rückfrage verärgern. Eine KI „empfindet“ das nicht als Kritik. Im Gegenteil: Erst durch unseren Widerspruch oder unsere Rückfrage bekommt die KI überhaupt den entscheidenden Hinweis, dass mit ihrer bisherigen Erklärung etwas nicht stimmt.