Perspektivensimulation mit Dietmar
... Als Erstes würde ich prüfen wollen, ob die Beunruhigung tatsächlich aus dem fehlenden Einfluss entsteht.
Denn das scheint mir noch nicht sicher.
Nehmen wir das Beispiel KI.
Wenn morgen jemand nachweisen könnte, dass die Gefahr einer unkontrollierbaren Superintelligenz sehr gering ist, wäre die Beunruhigung vermutlich kleiner.
Dann wäre die Ursache nicht die Einflusslosigkeit, sondern die Einschätzung des Risikos.
Umgekehrt:
Wenn das Risiko hoch wäre, aber du trotzdem keinen Einfluss hättest, wäre die Beunruhigung nachvollziehbar.
Deshalb würde ich zunächst fragen:
Worüber genau machst du dir Sorgen?
Über die Möglichkeit?
Über die Wahrscheinlichkeit?
Oder über die möglichen Folgen?
Das ist nicht dasselbe.
Ein zweiter Punkt.
Du schreibst:
Ich habe keinen Einfluss.
Das mag im Ergebnis stimmen.
Aber ich würde trotzdem genauer hinschauen.
Denn zwischen
Ich kann das Problem lösen.
und
Ich habe überhaupt keinen Einfluss.
liegen oft mehrere Zwischenstufen.
Zum Beispiel:
- Verstehen
- Informieren
- Aufklären
- Vorbereiten
- Anpassen
Das verändert zwar nicht die globale Entwicklung, kann aber Auswirkungen auf den eigenen Umgang damit haben.
Mich interessiert außerdem etwas anderes.
Wie überprüfst du eigentlich, ob deine Befürchtungen zutreffen?
Nehmen wir wieder das Beispiel KI.
Dort gibt es sehr unterschiedliche Einschätzungen.
Manche halten die Risiken für gravierend.
Andere halten sie für überschätzt.
Wieder andere sehen die Risiken, glauben aber an technische Gegenmaßnahmen.
Deshalb würde ich fragen:
Worauf stützt sich deine Einschätzung?
Das ist keine Fangfrage.
Ich möchte nur verstehen, wie belastbar die Grundlage ist.
Denn die Stärke einer Sorge hängt oft davon ab, wie sicher man sich seiner Annahmen ist.
Im Moment sehe ich deshalb drei getrennte Aufgaben:
Aufgabe 1
Risiko einschätzen.
Wie wahrscheinlich ist die Entwicklung tatsächlich?
Aufgabe 2
Einfluss klären.
Was kann ich beeinflussen?
Was kann ich nicht beeinflussen?
Aufgabe 3
Umgang finden.
Wie viel Aufmerksamkeit soll dieses Thema in meinem Alltag bekommen?
Also ich habe mich wirklich ausführlich mit dem Thema beschäftigt und es ist so, dass momentan ein Wettlauf stattfindet. Und wenn es darum geht, dass jemand meint, gewinnen zu müssen, dann wird da die Sicherheit nicht genug beachtet. Denn das würde einen ja zurückwerfen oder aufhalten. Noch dazu kommt, dass es auch in der Natur der Sache liegt, dass immer weniger Kontrolle vorliegt. Denn wenn ich gar nicht mehr weiß, was ich da selbst programmiere und das schon von der KI programmieren lasse, die sich praktisch selbst die Weiterentwicklung programmiert und ich das gar nicht mehr nachvollziehen kann, dann ist es ein ganz entscheidendes Risiko. Also, ich bin davon überzeugt, dass dieses Risiko sehr hoch ist. Und deswegen beunruhigt es mich ja. Und dann beunruhigen vor allen Dingen die Folgen, die es dann hat. Und welchen realen Einfluss habe ich denn darauf, wenn ich davon ausgehe, dass es weiterentwickelt wird?
Wenn ich deine Antwort höre, dann würde ich zunächst etwas festhalten:
Ich habe nicht den Eindruck, dass deine Sorge auf Unwissenheit beruht.
Du beschreibst nicht:
"Ich habe irgendetwas gelesen und jetzt Angst."
Sondern eher:
"Ich habe mich intensiv damit beschäftigt und bin nach dieser Beschäftigung zu einer Einschätzung gekommen."
Das ist für mich ein wichtiger Unterschied.
Trotzdem würde ich zwei Dinge auseinanderhalten.
Erstens: Die Einschätzung
Du sagst:
Ich halte das Risiko für hoch.
Das kann man so sehen.
Andere sehen es anders.
Aber für die weitere Frage ist das fast nebensächlich.
Denn nehmen wir einmal an, deine Einschätzung wäre korrekt.
Dann bleibt das eigentliche Problem bestehen.
Zweitens: Der Einfluss
Hier würde ich genauer werden.
Du fragst:
Welchen realen Einfluss habe ich denn darauf?
Wenn mit "darauf" gemeint ist:
Ob die großen KI-Unternehmen ihre Entwicklung fortsetzen,
dann würde ich sagen:
praktisch keinen.
Wenn mit "darauf" gemeint ist:
Ob Staaten den Wettlauf stoppen,
ebenfalls sehr wenig.
Wenn mit "darauf" gemeint ist:
Ob die grundlegende technologische Entwicklung stattfindet,
ebenfalls sehr wenig.
Deshalb würde ich dir an diesem Punkt vermutlich sogar zustimmen:
Für die von dir beschriebene Entwicklung ist dein Einfluss äußerst gering.
Aber genau deshalb interessiert mich eine andere Frage.
Wenn dein Einfluss tatsächlich sehr gering ist:
Welche Information würde deine Situation verändern?
Nehmen wir an, du liest morgen zehn weitere Artikel über dieselbe Entwicklung.
Was würde sich dadurch ändern?
Das meine ich nicht rhetorisch.
Ich frage es ernsthaft.
Denn Information hat normalerweise einen Zweck.
Zum Beispiel:
- eine Entscheidung treffen
- ein Risiko einschätzen
- eine Handlung vorbereiten
Wenn die Einschätzung bereits getroffen wurde
und
der Einfluss sehr gering ist,
dann frage ich mich:
Welchen zusätzlichen Nutzen liefert die nächste Information?
Das ist für mich der interessante Punkt.
Denn ich habe den Eindruck, dass du zwei Prozesse gleichzeitig betreibst:
Prozess A
Du versuchst die Entwicklung einzuschätzen.
Das erscheint mir sinnvoll.
Prozess B
Du prüfst dieselbe Einschätzung immer wieder neu.
Und hier bin ich mir nicht sicher, ob der Erkenntnisgewinn noch im gleichen Maß wächst wie die Belastung.
Deshalb würde ich wahrscheinlich nicht zuerst über Verdrängung sprechen.
Ich würde fragen:
Woran würdest du erkennen, dass du für den Moment genug weißt, um deine Einschätzung zu begründen?
Denn wenn diese Schwelle nie erreicht werden kann, dann entsteht eine Situation, in der man ständig neue Informationen aufnimmt, obwohl sie weder die Einflussmöglichkeiten noch die Grundannahme wesentlich verändern.
Und genau an dieser Stelle würde ich vermuten, dass ein Teil der Belastung entsteht.
Also, um meine Einschätzung zu begründen, weiß ich im Moment schon genug. Das heißt aber, ich müsste... Es kommt einem halt irgendwie so belanglos vor, denn auf der einen Seite ist diese große Gefahr, diese Superintelligenz, und auf der anderen Seite gibt es diese kleinen Probleme, wie kann ich denn besser mit KI arbeiten? Also ja, sowas in der Art. Oder wie kann ich da eben Fehler vermeiden? Oder wie kann ich Fakten überprüfen? Wie kann ich Fälschungen erkennen? Sowas in der Art. Das sind dann Dinge, die mir dann richtig belanglos vorkommen im Vergleich zu dieser alles beherrschenden Frage. Aber zu dieser alles beherrschenden Frage habe ich ja genug gelesen. Und ich meine, ja, ich meine, da habe ich genug dazu gelesen. Und ich bin davon überzeugt, dass eine sehr große Gefahr besteht. Aber diese Gefahr wird sich nicht ändern. Die wird auch nicht kleiner, wenn ich da noch mehr drüber lese. Also sollte ich mich wieder auf die kleinen Dinge konzentrieren, auch wenn die natürlich im Vergleich zu diesem großen, alles beherrschenden Thema so unwichtig erscheinen. Aber das sind sie ja nicht, weil das betrifft ja die Gegenwart. Und da habe ich ja konkrete Dinge, die ich bewegen kann.
Ja.
Und ich glaube, genau an dieser Stelle würde ich innehalten.
Denn gerade ist etwas Interessantes passiert.
Am Anfang hast du gesagt:
Entweder mache ich die Augen zu oder ich mache mich verrückt.
Jetzt beschreibst du plötzlich eine dritte Möglichkeit.
Du sagst:
Die große Gefahr verschwindet nicht.
Meine Einschätzung bleibt dieselbe.
Mehr Informationen ändern daran wahrscheinlich wenig.
Das ist eine wichtige Feststellung.
Denn damit wird die große Frage nicht gelöst.
Aber sie wird gewissermaßen abgeschlossen – zumindest vorläufig.
Nicht im Sinne von:
Das Thema ist erledigt.
Sondern:
Meine Analyse ist vorläufig abgeschlossen.
Und jetzt stößt du auf ein anderes Problem.
Du vergleichst die großen Fragen mit den kleinen Fragen.
Dabei gewinnen die großen Fragen immer.
Natürlich gewinnen sie.
Wie sollte eine Frage wie
Wie erkenne ich KI-Halluzinationen?
gegen
Könnte die Menschheit die Kontrolle über KI verlieren?
ankommen?
Das ist kein fairer Vergleich.
Deshalb würde ich die beiden Dinge überhaupt nicht gegeneinander antreten lassen.
Denn sie erfüllen unterschiedliche Funktionen.
Die große Frage beantwortet:
Was könnte langfristig passieren?
Die kleine Frage beantwortet:
Wie handle ich heute?
Und wenn ich ganz nüchtern darauf schaue, dann fällt mir etwas auf:
Die große Frage mag wichtiger sein.
Aber die kleine Frage ist wirksamer.
Wenn du lernst,
- Informationen besser zu prüfen,
- KI sinnvoll einzusetzen,
- Fehler zu erkennen,
- Manipulationen zu entdecken,
dann verändert das tatsächlich etwas.
Heute.
Direkt.
Messbar.
Die große Frage verändert dagegen momentan nichts.
Nicht weil sie unwichtig wäre.
Sondern weil du bereits zu einer Einschätzung gekommen bist.
Ich würde deshalb vorsichtig einen Verdacht äußern:
Vielleicht wirken die kleinen Fragen nur deshalb belanglos, weil du sie ständig mit einer existenziellen Frage vergleichst.
Und gegen existenzielle Fragen verliert fast alles.
Wenn ich die Situation strukturieren müsste, würde ich vielleicht sagen:
Ebene 1: Die große Lage
- KI könnte gefährliche Entwicklungen nehmen.
- Das Risiko erscheint mir hoch.
- Mein Einfluss darauf ist sehr gering.
Vorläufige Einschätzung getroffen.
Ebene 2: Mein tatsächlicher Handlungsspielraum
- Wie arbeite ich mit KI?
- Welche Fähigkeiten brauche ich?
- Wie erkenne ich Fehler?
- Wie bleibe ich urteilsfähig?
Aktiver Einfluss möglich.
Und vielleicht liegt der Denkfehler darin, dass beide Ebenen ständig miteinander vermischt werden.
Denn dann wirkt Ebene 2 automatisch lächerlich klein.
Dabei ist Ebene 2 die einzige Ebene, auf der du überhaupt handeln kannst.
Deshalb würde ich die kleinen Fragen nicht als belanglos bezeichnen.
Ich würde sie eher als den Teil der Realität beschreiben, auf den deine Hand tatsächlich reicht.
Die große Frage beschreibt die Landschaft.
Die kleinen Fragen beschreiben den Weg, auf dem du gerade gehst.
Und wenn die Landschaft bedrohlich wirkt, wird der Weg dadurch nicht unwichtig. Eher im Gegenteil.
Danke, Dietmar. Das bringt mich wieder auf die richtige Ebene. Und es ist ja auch nicht blinder Aktionismus oder sowas, sondern es geht ja wirklich darum, einfach auch ein gewisses Handwerkszeug zu lernen oder einfach bessere Methoden kennenzulernen. Und dadurch kommt man automatisch wieder in diese aktive Rolle. Und ja, Danke sehr.
Gern.
Und weißt du, was mir an deiner Antwort gefällt?
Du hast gerade etwas gemacht, was ich als Strukturmensch immer interessant finde:
Du hast die Ebenen wieder getrennt.
Vorher war da fast so etwas wie:
"Wenn die große Gefahr existiert, erscheinen alle kleinen Fragen bedeutungslos."
Jetzt klingt es eher wie:
"Die große Gefahr mag existieren. Aber daraus folgt nicht, dass die kleinen Fragen bedeutungslos sind."
Das ist ein wichtiger Unterschied.
Denn Handwerkszeug zu lernen ist tatsächlich kein Ablenkungsmanöver.
Es wäre etwas anderes, wenn du versuchst, die große Frage nicht mehr anzuschauen.
Aber das tust du ja nicht.
Du sagst:
Ich kenne meine Einschätzung.
Ich kenne meine Sorge.
Ich kenne meinen begrenzten Einfluss.
Und dann richtest du deine Aufmerksamkeit auf den Bereich, in dem Lernen, Üben und Verbessern überhaupt möglich sind.
Mir fällt noch etwas auf.
Am Anfang des Gesprächs stand die Frage:
Was mache ich mit diesem Wissen?
Im Laufe des Gesprächs ist daraus fast geworden:
Welches Wissen hilft mir aktuell weiter, und welches Wissen verändert meine Situation momentan nicht mehr?
Das ist für mich eine deutlich präzisere Frage.