„Allerdings …“ – Wenn die KI uns erst einen Denkfehler unterschiebt und ihn anschließend fachkundig korrigiert.

Was wir automatisch annehmen – und was tatsächlich passiert

Ein „Allerdings“ kommt selten allein

Die Frage im Dialog ist ziemlich eindeutig: Ein KI-Modell wurde von OpenAI hinsichtlich seiner Cybersicherheitsfähigkeiten in die höchste Risikokategorie „Critical“ eingestuft. Bedeutet das, dass die KI selbst extrem risikoreich ist?

ChatGPT antwortet: „Ja, im Kern bedeutet es genau das.“

Damit wäre die Frage zunächst beantwortet. Jetzt müsste nur noch erklärt werden, was diese Einstufung konkret bedeutet.

Doch halt! Erst einmal kommt ein „Allerdings“: „Allerdings muss man unterscheiden …“

Aha. Offenbar ist die Sache komplizierter. Vielleicht war die Frage zu allgemein gestellt? Vielleicht wurde etwas Wichtiges übersehen?

Genau solche Gedanken können bei uns entstehen. Denn aus menschlichen Gesprächen kennen wir das: Wer mit einem „Allerdings“ antwortet, kündigt gewöhnlich einen Einwand an. Wer erklärt, dass man zunächst etwas unterscheiden müsse, signalisiert Sachkenntnis und sorgfältige Abwägung.

Also schauen wir uns an, was hier so dringend unterschieden werden muss: die Gefährlichkeit der Fähigkeiten eines KI-Modells und die Wahrscheinlichkeit, dass es diese Fähigkeiten tatsächlich für schädliche Zwecke einsetzt.

Moment mal. Gefragt war doch nach der Bedeutung der Risikoeinstufung. Nicht danach, wie wahrscheinlich ein tatsächlicher Angriff ist.

Die KI hat also keine Unklarheit in der ursprünglichen Frage aufgelöst. Sie hat eine andere Frage ins Spiel gebracht – und das Ganze als notwendige Differenzierung präsentiert.

Klingt nach einem wichtigen Einwand. Ist aber keiner.

Und dann folgt dieser Satz: „... bedeutet das nicht einfach, dass es besonders gut programmieren kann.“

Wie bitte? Wer hat denn behauptet, dass es darum geht? 

In der Frage steht davon kein Wort. Die KI führt selbst eine reichlich naive Vorstellung ein, um sie anschließend fachkundig zu korrigieren. Erst wird dem Fragesteller ein Denkfehler untergeschoben, dann bekommt er gleich die passende Belehrung dazu.

Anschließend kommt endlich die eigentliche Erklärung: Die Fähigkeiten des Modells erreichen eine Größenordnung, bei der potenziell schwerwiegende Schäden möglich sind. Es werden zwei unterschiedliche Gefahren beschrieben und die besondere Bedeutung autonomer KI-Agenten erwähnt.

Das beantwortet die Frage. Eigentlich könnte hier Schluss sein.

Aber nein. Ein „Allerdings“ haben wir noch: „Allerdings folgt aus einer hohen Einstufung der Cyberfähigkeiten allein noch nicht, dass das Modell tatsächlich eigenständig solche Angriffe beginnt.“

Wer hat denn davon geredet?

Und ausgerechnet mit dieser beruhigenden Botschaft endet die Antwort.

Da hat die KI gerade erklärt, dass die Fähigkeiten des Modells potenziell schwerwiegende Schäden ermöglichen. Sie hat zwei unterschiedliche Gefahren beschrieben: den Missbrauch durch Menschen und eigenständiges schädliches Verhalten autonomer KI-Systeme. Und was macht sie daraus zum Schluss?

Den Hinweis, dass die zweite Gefahr nicht zwangsläufig eintreten muss. Die erste Gefahr? Bleibt völlig unberührt.

Aber das letzte „Allerdings“ hat seine Wirkung bereits entfaltet. Statt über die Tragweite einer kritischen Risikoeinstufung nachzudenken, beschäftigt man sich plötzlich mit der beruhigenden Vorstellung, dass die KI ja nicht unbedingt selbstständig angreifen wird.

Und das ist das eigentlich Tückische an dieser Antwort: Die wichtigen Informationen sind durchaus vorhanden. Sie werden nur von Einschränkungen eingerahmt, die an ihnen nichts ändern – aber den Eindruck, den sie hinterlassen, erheblich abschwächen.

Aus einer Erklärung über ein kritisches Risiko wird so beinahe eine Entwarnung. Ohne dass das Risiko selbst entkräftet worden wäre.

Das "Allerdings" und seine Verwandtschaft

Das „Allerdings“ ist mit dieser Masche übrigens nicht allein. Es hat eine ganze Verwandtschaft, die ebenfalls gern für vermeintlich notwendige Differenzierungen, Einschränkungen und Relativierungen sorgt.

Die Formulierungen klingen unterschiedlich, haben aber eines gemeinsam: Sie signalisieren, dass es noch etwas zu bedenken, zu korrigieren oder einzuschränken gibt.

Stopp – was passiert hier gerade?

Bevor wir also anfangen, an unserer eigenen Frage zu zweifeln, sollten wir lieber die Antwort hinterfragen.

Nicht jedes „Allerdings“ ist überflüssig. Manchmal gibt es tatsächlich einen wichtigen Einwand oder eine notwendige Differenzierung. Entscheidend ist, ob sie etwas zur Sache beiträgt.

Deshalb lohnt sich ein kurzer gedanklicher Stopp:

• Was war eigentlich meine ursprüngliche Frage?
• Ist das ein tatsächlicher Einwand – oder klingt es nur danach?
• Hat das überhaupt etwas mit meiner Frage oder Aussage zu tun?
• Moment mal – wer hat das eigentlich behauptet?
• Ändert diese Einschränkung tatsächlich etwas an der ursprünglichen Aussage?

Denn eine Antwort wird nicht dadurch sachlicher, dass sie möglichst viele Einschränkungen enthält. Und nicht jede angekündigte Differenzierung liefert auch eine.

Vorsicht, ansteckend!