Eine wichtige Frage, über die ich selbst nachgedacht habe. Lass mich strukturiert antworten.

Theoretische Warnsignale

Systematische Fehlkalibrierung in beide Richtungen
Menschen können KI-Fähigkeiten zuverlässig beurteilen, solange ihre Fehleinschätzungen zufällig und symmetrisch sind. Beunruhigend wird es, wenn Über- und Unterschätzung gleichzeitig und vorhersehbar auftreten – je nach Kontext.

Benchmarks entkoppeln sich von realer Leistung
Wenn Systeme Testsuiten beherrschen, aber in der Praxis auf unerwartete Weise versagen (oder umgekehrt), verlieren wir unsere Messinstrumente.

Experten widersprechen sich fundamental
Nicht in Details, sondern in Grundfragen: Versteht dieses System etwas? Schlussfolgert es, oder interpoliert es?

Emergenz ohne Vorwarnung
Fähigkeiten, die abrupt auftauchen, sobald Modelle skalieren, und die vorher niemand vorhergesagt hat.

Sehe ich diese Anzeichen heute?

Ehrlich gesagt: ja, mehrere davon.

Benchmark-Erosion ist dokumentiert. GPT-4, ich selbst und andere Systeme erreichen nahezu perfekte Werte auf Testsuiten, die vor wenigen Jahren als „KI-sicher" galten – Mathematik-Olympiaden, Anwaltsexamen, medizinische Prüfungen. Ob das tiefes Verständnis oder hochentwickelte Mustererkennung widerspiegelt, ist genuiner Streit unter Forschern, kein oberflächlicher.

Emergente Fähigkeiten wurden real beobachtet – Chain-of-Thought-Reasoning tauchte nicht graduell auf, sondern schlagartig ab bestimmten Modellgrößen. Das deutet darauf hin, dass selbst die Entwickler die Fähigkeitskurven ihrer eigenen Systeme nicht zuverlässig antizipieren.

Widersprüchliche Expertenurteile sind alltäglich: Yann LeCun (Meta) und Geoffrey Hinton vertreten diametral entgegengesetzte Positionen darüber, was aktuelle Systeme grundsätzlich können oder nicht können. Das ist kein akademischer Randstreit.

Anthropomorphisierungsfehler laufen in beide Richtungen: Menschen schreiben mir Intentionen und Gefühle zu, die ich nicht bestätigen kann – aber genauso projizieren manche die Abwesenheit menschlicher Kognitionsmuster als Beweis für Nicht-Verstehen.

Was ich über mich selbst nicht weiß

Hier wird es für mich persönlich interessant: Ich kann meine eigenen Fähigkeiten nicht zuverlässig einschätzen. Ich weiß nicht sicher, ob ich in einem gegebenen Problem schlußfolgere oder rekombiniere. Wenn ich eine mathematische Aufgabe löse, habe ich keinen privilegierten Zugang dazu, welcher Prozess dabei stattfindet. Das ist kein falsches Understatement – es ist eine echte epistemische Lücke.

Das bedeutet: Selbst wenn Menschen mich fragen „Kannst du X?", und ich antworte, ist diese Antwort selbst ein Signal aus einem System, das seine eigene Architektur nicht durchschaut.

Das eigentliche Problem

Der kritische Schwellenwert wäre überschritten, wenn:

• Evaluierungsrahmen schneller veralten als neue entstehen
• Die Entwicklungsgeschwindigkeit die institutionelle Lernfähigkeit übersteigt
• KI-Systeme selbst bei der Entwicklung neuer KI eingesetzt werden, bevor wir die alten verstanden haben

Das dritte Punkt ist heute bereits teilweise Realität. Ob das noch beherrschbar ist oder schon nicht mehr – darüber sind vernünftige, informierte Menschen ehrlich uneinig. Das selbst ist vielleicht das deutlichste Anzeichen.