„War das jetzt eigentlich ziemlich dumm?“ – Warum wir eine Bewertung durch die KI befürchten und wie uns das beeinflusst.

Ein ganz normaler Chatausschnitt

Ich (ins Mikrofon):

Oh, da kann man sich ja auch vorstellen, wie das Triggern funktioniert. Dass da irgendwas da ist, was man eigentlich verdrängt hat, aber diese Kette, die liegt noch irgendwo. Das ist noch irgendwo abgespeichert. Und dann kommt da ein Baustein, den man aufnimmt, und plötzlich ist alles andere auch wieder da, was damit zusammenhängt. Vielmehr nicht alles, aber genau dieses Traumatisierende in dem Fall dann.

ChatGPT:

Ja – als grobes Modell kann man sich das tatsächlich so vorstellen, mit einer wichtigen Einschränkung: Bei traumatischen Erinnerungen ist „verdrängt und irgendwo vollständig abgespeichert“ etwas zu simpel.

Aber dein Gedanke mit dem Netzwerk und dem passenden Baustein trifft etwas Wesentliches. Erinnerungen sind mit anderen Informationen verknüpft: mit einem Ort, Geruch, Geräusch, Gesichtsausdruck, einer Körperempfindung, bestimmten Worten oder einer Situation. Taucht später ein Element dieses Netzes wieder auf, kann es andere damit verbundene Inhalte aktivieren. […]

Was wir automatisch annehmen – und was tatsächlich passiert

Warum wir uns plötzlich so klein fühlen

Dass eine solche Antwort das Gefühl auslösen kann, bewertet zu werden, hat nicht nur einen Grund. Hier kommen mehrere Dinge zusammen.

Schon die Wortwahl setzt deutliche Signale. „Als grobes Modell“, „mit einer wichtigen Einschränkung“, „etwas zu simpel“ – solche Formulierungen kennen wir aus Situationen, in denen Aussagen korrigiert oder bewertet werden. Besonders deutlich wird das in diesem Beispiel dadurch, dass ChatGPT meine eigenen Worte aufgreift: „verdrängt und irgendwo vollständig abgespeichert“ steht plötzlich in Anführungszeichen da und wird als „etwas zu simpel“ eingeordnet. Aus einem Gedanken, den ich gerade erst entwickelt habe, ist damit etwas geworden, das bewertet und korrigiert wird.

Dazu kommt der sprachliche Kontrast. Während Menschen beim Sprechen nach Worten suchen, Sätze abbrechen, sich korrigieren oder einen Gedanken erst beim Formulieren entwickeln, liefert die KI innerhalb weniger Sekunden eine klar strukturierte und souverän klingende Antwort. Die andere Seite wirkt immer vorbereitet. Sie stottert nicht herum, sucht nicht fünf Minuten nach einem Wort und sagt auch nicht: „Warte mal, ich weiß es doch … Scheiße, wie hieß das noch gleich?“

Und schließlich gibt es häufig tatsächlich ein Wissensgefälle. Wir fragen eine KI schließlich gerade deshalb, weil uns Informationen fehlen, wir nur noch Bruchstücke im Kopf haben oder einen Zusammenhang erst verstehen wollen. Dass die KI in diesem Moment mehr weiß, ist also durchaus real. Nur sagt das nichts darüber aus, wie klug oder dumm der Gedanke auf der anderen Seite ist.

Korrigierende Sprache, sprachliche Souveränität und Wissensvorsprung kommen damit gleichzeitig zusammen – und alle weisen in dieselbe Richtung. Die KI erscheint als die überlegene Seite des Gesprächs. Aus einem gemeinsamen Nachdenken kann so für einen Moment eine vertraute Rollenverteilung werden: Hier die Instanz, die weiß, einordnet und korrigiert – dort diejenige, deren Gedanke beurteilt wird.

Diese Rollen sind uns nicht fremd. Schon in der Schule lernen wir nicht nur, sondern werden auch bewertet. Antworten sind richtig oder falsch, Fehler werden angestrichen, Leistungen benotet. Später ändern sich die Formen, die Erfahrung bleibt: in Ausbildung und Beruf, bei Leistungsbeurteilungen, in Besprechungen oder wenn eigene Ideen von anderen beurteilt werden. Auch in privaten Beziehungen erleben wir Zustimmung, Kritik und Zurückweisung.

Wenn eine KI korrigierend auftritt, knüpft ihre Sprache deshalb an Erfahrungen an, die wir längst gemacht haben. Wir wissen, wie es sich anfühlt, bewertet zu werden – und auch, welche Rolle wir in solchen Situationen gewöhnlich einnehmen.

Warum funktioniert das überhaupt?

Dass Menschen auf Computer mitunter ähnlich reagieren wie auf ein soziales Gegenüber, ist kein neues Phänomen. In der Forschung wird es unter anderem mit dem CASA-Prinzip beschrieben: Computers Are Social Actors.

Bei Sprachmodellen findet diese menschliche Neigung besonders viele Anknüpfungspunkte. Sie kommunizieren mit uns in natürlicher Sprache, reagieren unmittelbar auf unsere Äußerungen und verwenden dabei vertraute soziale Muster. Sie können zustimmen, widersprechen, loben oder korrigieren – und wirken dadurch sehr viel stärker wie ein Gegenüber als die meisten anderen Computerprogramme.

Rational können wir durchaus wissen, dass eine KI uns weder für klug noch für dumm hält und sich keine persönliche Meinung über uns bildet. Das verhindert aber nicht unbedingt die spontane soziale Reaktion auf ihre Sprache. Wir wissen, dass niemand über uns urteilt – und können uns trotzdem beurteilt fühlen.

Die neue Haltung: Das Gefühl wahrnehmen, die Sache prüfen

Wenn dieses Gefühl auftaucht, sollten wir wieder unser mentales Stoppschild zücken und fragen:

Stopp – was passiert hier gerade?

Hat die KI mich tatsächlich korrigiert? Hat sie mich missverstanden? Ist ihre Einordnung hilfreich – oder kommt sie einfach zum falschen Zeitpunkt?

Wir müssen darauf nicht sofort reagieren. Wir können nachlesen, darüber nachdenken und erst dann entscheiden, ob überhaupt eine Antwort nötig ist.

Das menschliche Vorprogramm

Bei einem menschlichen Gegenüber wäre die Sache damit noch nicht erledigt. Wer deutlich sagt: „Nein, das wollte ich gerade nicht bewertet haben“, muss schließlich damit rechnen, dass auch diese Äußerung wieder etwas auslöst.

Bei einer KI fällt diese zweite Ebene weg. Sie ist nicht gekränkt. Sie denkt nicht: Na schön, dann sage ich eben gar nichts mehr. Sie holt nicht den Streit von 2017 aus der Schublade. Sie erklärt uns nicht, dass wir Kritik offenbar grundsätzlich schlecht vertragen. Und beim nächsten Gespräch sitzt sie auch nicht mit verschränkten Armen da.

Das klingt selbstverständlich – und trotzdem bringen wir die Regeln menschlicher Kommunikation mit. Wir haben gelernt, Widerspruch abzufedern, Rücksicht auf mögliche Kränkungen zu nehmen oder erst einmal zu erklären, wie etwas gemeint war. Diese sozialen Vorsichtsmaßnahmen sind im Gespräch mit einer KI nicht nötig.

Wir können klar sagen, was wir brauchen: „Das habe ich nicht gemeint.“ – „Bewerte das noch nicht.“ – „Ich sammle gerade erst.“ Oder auch: „Schön, dass du mich verbesserst, aber so weit sind wir noch gar nicht.“

Die KI löst soziale Reaktionen in uns aus – ist selbst aber nicht sozial verletzbar.