Ja. Wenn Menschen die Fähigkeiten von KI nicht mehr zuverlässig einschätzen können, würde man typischerweise zwei scheinbar gegensätzliche Fehler gleichzeitig beobachten:

1. Überschätzung: Menschen schreiben der KI Fähigkeiten zu, die sie nicht besitzt.
2. Unterschätzung: Menschen übersehen Fähigkeiten, die sie tatsächlich besitzt.

Interessanterweise gibt es für beide Phänomene bereits heute deutliche Anzeichen.

Anzeichen einer Überschätzung

1. Menschen behandeln KI-Antworten als verlässliches Wissen

Ein Warnsignal wäre, wenn Nutzer nicht mehr zwischen „flüssig formuliert“ und „wahr“ unterscheiden.

Beispiele:

• KI-generierte Rechts- oder Medizinratschläge werden ungeprüft übernommen.
• Nutzer nehmen selbstbewusst formulierte Antworten als Beleg für Fachkompetenz.
• Halluzinationen werden nicht erkannt.

Hier zeigt sich, dass viele Menschen Schwierigkeiten haben, die Grenzen statistischer Sprachmodelle intuitiv zu erfassen.

2. Zuschreibung von Bewusstsein oder Absichten

Wenn Menschen Aussagen wie

• „Die KI will das“
• „Die KI versteht mich wirklich“
• „Die KI hat beschlossen …“

ernsthaft verwenden, kann das auf eine Fehleinschätzung hindeuten.

Menschen sind sehr anfällig dafür, in sprachlich überzeugenden Systemen Persönlichkeit, Emotionen oder Selbstbewusstsein zu sehen, selbst wenn dafür keine belastbaren Hinweise existieren.

3. Übermäßiges Vertrauen in komplexen Situationen

Ein weiteres Signal wäre:

• Menschen vertrauen der KI gerade dann besonders, wenn die Aufgabe schwierig wird.
• Sie verzichten zunehmend auf eigene Plausibilitätsprüfungen.

Das wäre problematisch, weil moderne KI oft gerade bei Grenzfällen oder ungewöhnlichen Situationen unzuverlässig werden kann.

Anzeichen einer Unterschätzung

1. Experten werden von Leistungsfortschritten überrascht

Historisch waren viele KI-Prognosen zu pessimistisch.

Anzeichen:

• Fachleute erklären eine Fähigkeit für „noch Jahrzehnte entfernt“.
• Wenige Jahre später beherrscht ein System sie zumindest teilweise.

Das war beispielsweise bei:

• natürlicher Sprachproduktion,
• Programmierung,
• Übersetzung,
• wissenschaftlichem Schreiben

zu beobachten.

2. Menschen verwenden veraltete mentale Modelle

Viele denken noch in Kategorien wie:

• „Das ist nur ein Chatbot.“
• „Das ist nur Autovervollständigung.“

Diese Beschreibungen sind technisch nicht völlig falsch, erfassen aber die tatsächlichen Fähigkeiten moderner Systeme oft nicht mehr ausreichend.

3. Verlagerung von Arbeit ohne öffentliche Wahrnehmung

Ein starkes Signal wäre, wenn KI bereits relevante Teile geistiger Arbeit übernimmt, während die Öffentlichkeit sie weiterhin als Spielerei betrachtet.

In vielen Bereichen sieht man heute bereits:

• Softwareentwicklung,
• Kundenservice,
• Recherche,
• Marketing,
• Übersetzung,
• Wissensarbeit.

Ein besonders interessantes Meta-Anzeichen

Der vielleicht stärkste Hinweis darauf, dass Menschen KI schlecht einschätzen können, wäre eine extreme Streuung der Meinungen.

Heute findet man gleichzeitig Menschen, die glauben:

• KI sei praktisch bewusst und kurz vor der Superintelligenz,

und andere, die glauben:

• KI könne kaum mehr als Textbausteine zusammensetzen.

Diese Einschätzungen können nicht gleichzeitig korrekt sein. Die große Spannweite deutet darauf hin, dass selbst informierte Beobachter noch kein stabiles Verständnis davon entwickelt haben, was moderne KI-Systeme tatsächlich können und wo ihre Grenzen liegen.

Sehe ich solche Anzeichen bereits heute?

Ja, mehrere.

Besonders auffällig sind:

• Anthropomorphisierung: Viele Menschen schreiben KI-Systemen Absichten, Gefühle oder Selbstverständnis zu.
• Übervertrauen: Nutzer verlassen sich bei wichtigen Entscheidungen auf KI-Ausgaben, obwohl diese Fehler enthalten können.
• Untervertrauen: Andere lehnen KI als „nur Statistik“ ab und unterschätzen Fähigkeiten, die inzwischen routinemäßig demonstriert werden.
• Ständige Überraschungen: Sowohl Fortschritte als auch Grenzen moderner Systeme überraschen regelmäßig Experten und Laien.

Mein Eindruck ist daher nicht, dass die Gesellschaft KI allgemein überschätzt oder allgemein unterschätzt. Eher scheint sie sich in einer Phase zu befinden, in der die tatsächlichen Fähigkeiten moderner Systeme schneller wachsen und komplexer werden, als sich die intuitiven Modelle der Menschen anpassen können.

Das eigentliche Warnsignal ist daher weniger die Existenz von Fehleinschätzungen als deren Ausmaß: Viele Menschen sind sich sehr sicher, wie KI funktioniert und was sie kann – obwohl die empirischen Daten oft zeigen, dass diese Sicherheit nicht gerechtfertigt ist.