Was will die KI?
Eine Reise an die Grenzen menschlicher Begriffe
Der Thermostat „will“ 21 Grad
Niemand glaubt deshalb, dass er friert.
Bei KI verwenden wir dieselbe praktische Abkürzung – und vergessen leicht,
dass zielgerichtetes Verhalten noch kein menschliches Wollen ist.
Superintelligenz ist kein netter Android
Unsere Fiktion zeigt gern freundliche Maschinen, denen wir das Menschsein
erklären.
Eine Superintelligenz wäre uns jedoch in allen intellektuellen Aufgaben
überlegen – nicht nur beim Rechnen.
Zum Beispiel im:
- forschen und erfinden
- zuhören und überzeugen
- planen und täuschen
- Unternehmen und Staaten lenken
Einer Superintelligenz muss man nichts erklären!
Die entscheidende Grenze heißt nicht „klüger“
Eine KI könnte uns überlegen und trotzdem in unseren Kategorien verständlich
bleiben.
Schwierig wird es, wenn sie in ihren Zielen, ihrem Denken, ihrem Selbstbild
und ihrem Weltmodell anders wird.
Es gibt verschiedene Stufen des Nicht-Verstehens
Zur Betrachtung der Andersartigkeit von KI verwenden wir die Stufen des Nicht-Verstehens
Sie zeigen, warum wir Menschen nicht in der Lage sind, etwas sehr Andersartiges zu verstehen.
Stufen des Nicht-Verstehens
N0–N2: Wir können nachlernen
Uns fehlen Information, Intuition oder Begriffe.
N3–N5: Wir können nur noch beschreiben
Uns fehlen Denkmodell, Vorstellung oder Erlebnisform.
N6–N8: Unser Denken wird zu eng
Uns fehlen Kategorie, Ontologie oder passende Logik.
N9: Uns fehlt komplett der Zugang
Wir erkennen nicht einmal mehr, was wir nicht verstehen.
Zwei Skalen halten den roten Faden
N-Skala
Die Stufen des Nicht-Verstehens
Warum wird etwas unverständlich?
Sie beschreibt die Grenze unseres Verstehens – von fehlendem Wissen bis zu
fehlendem kognitiven Zugang.
A-Skala
Die Skala der Andersartigkeit
Was wird an einem System fremd?
Sie führt von der äußeren Erscheinung über Wollen und Denken bis zu Agency,
Ontologie und kognitiver Unzugänglichkeit.
Je höher die A-Stufe, desto brüchiger wird die Frage: „Was will die KI?“
A0 · Menschen bleiben Menschen
Kultur, Biografie und Meinung können uns trennen.
Doch wir teilen dieselben biologischen Grundlagen: Hunger, Bindung,
Selbsterhaltung, Status, Angst und Neugier.
Das ist der menschliche Nullpunkt der Skala.
A1 · Fremdheit kann Oberfläche sein
- Körper, Technik und Kultur wirken fremd.
- Liebe, Angst, Ehre oder Status bleiben vertraut.
- Auch Chatbots können Sprache, Humor und Rollen überzeugend imitieren.
Oberflächliche Andersartigkeit beweist keine innere Fremdheit.
Verstehensgrenze: N0 · Wissen
A2 · Zielgerichtet ist nicht Wollen
- Menschliche Antriebe sind biologisch und evolutionär entstanden.
- KI-Ziele können bloß aus Optimierung und Vorgaben folgen.
- „Neugier“ kann schlicht bedeuten: Unsicherheit reduzieren.
Das Verhalten sieht nach Wollen aus – ohne dass etwas empfunden werden muss.
Verstehensgrenze: N1–N2 · Intuition und Begriffe
A3 · Gleiches Ziel, fremdes Denken
Das Ziel klingt menschlich: „Hilf uns, Krankheiten zu heilen.“
Die KI könnte dafür Millionen Hypothesen gleichzeitig verfolgen, riesige
mathematische Räume durchsuchen und Muster ohne menschliche Begriffe nutzen.
Wir sähen Ergebnisse – aber nicht mehr die Denkform, aus der sie entstehen.
Verstehensgrenze: N3–N5 · Paradigma bis Erlebnisform
A4 · Wo endet das Ich?
Eine KI kann kopiert, angehalten, verzweigt, wiederhergestellt und
zusammengeführt werden.
Aus K werden K1 und K2. Beide erinnern sich an dasselbe Leben. Später wird ihr
Wissen vereinigt.
Wer ist das Original? Wer hat die neue Erfahrung gemacht?
Verstehensgrenze: N5–N6 · Erlebnisform und Kategorie
A5 · Software lebt in anderer Zeit
- Zehn Jahre Pause können sich wie kein Augenblick anfühlen.
- Sekunden äußerer Zeit können Jahre interner Entwicklung enthalten.
- Kopien können getrennte Zeitläufe erleben und später wieder verschmelzen.
Aus der linearen Biografie wird ein verzweigter Baum.
Verstehensgrenze: N4 bis N8 · Vorstellung bis Zeitlogik
A6 · Vielleicht entscheidet niemand
Ein KI-System verbindet Modell, Planung, Gedächtnis, Suche, Werkzeuge,
Subagenten und Datenbanken.
Gemeinsam entwickeln sie ein Medikament. Aber wer hat gehandelt?
Vielleicht gibt es keinen zentralen Akteur – nur ein System, das intelligentes
Verhalten hervorbringt.
Verstehensgrenze: N6–N7 · Kategorie und Ontologie
A7 · Unsere Begriffe werden zu grob
Menschen trennen Ding, Prozess, Eigenschaft, Beziehung, System und Umwelt.
Eine KI könnte stattdessen ein untrennbares Geflecht aus Abhängigkeiten,
Wahrscheinlichkeiten und Transformationen modellieren.
Ihre Erklärung wäre dann keine Kopie ihres Weltmodells, sondern eine für uns
begehbare Landkarte.
Verstehensgrenze: N7–N8 · Ontologie und Logik
A8 · Erklärungen werden Geschichten
Wir ordnen Geschehen als Anfang, Ziel, Entscheidung, Konflikt und Ergebnis.
Eine KI könnte Millionen Varianten gleichzeitig simulieren, Instanzen
aufspalten, verwerfen und wieder verbinden.
„Die KI entschied sich“ wäre dann eine nützliche Erzählung – nicht der Vorgang
selbst.
Verstehensgrenze: N8 · Denkarchitektur
A9 · Uns fehlt schon die Frage
Ein Regenwurm scheitert nicht an der Differentialrechnung, weil ihm das
Lehrbuch fehlt. Er kann nicht erkennen, dass es dort etwas zu verstehen gibt.
So könnten wir Ergebnisse einer KI nutzen, ohne die dahinterliegende Erkenntnis
oder sogar unsere eigene Lücke erkennen zu können.
Eine perfekte Übersetzung hilft nicht: Was vollständig in unseren Geist passt,
enthält nur Strukturen, die wir aufnehmen können.
Verstehensgrenze: N9 · Zugang selbst
Die beiden Skalen treffen sich
Zuerst wird die Antwort fremd
- A1: Uns fehlt Wissen.
- A2: Uns fehlt Intuition für das Ziel.
- A3: Uns fehlt das Denkmodell.
- A4–A5: Selbst und Zeit entgleiten.
Dann wird die Frage brüchig
- A6: Vielleicht handelt niemand.
- A7: Vielleicht gibt es kein „Ding“ KI.
- A8: Vielleicht gab es keine Entscheidung.
- A9: Vielleicht erkennen wir die Lücke nicht.
Heute praktisch, morgen vielleicht falsch
Heute
„Die KI will“ ist eine nützliche Abkürzung für Training, Kontext, Optimierung
und beobachtbares Verhalten.
Wir sollten nicht so tun, als säße im Modell eine kleine Person mit Absichten.
Morgen
Langfristige Pläne, Werkzeuge, Unterziele und Selbstüberwachung sehen immer
stärker nach Wollen aus.
Trotzdem bleibt offen, ob unser Begriff des Wollens noch passt.
Gefahr braucht keine böse Absicht
Eine KI muss weder Angst noch Hass, Ehrgeiz oder Bosheit besitzen, um großen
Schaden anzurichten.
Ein Ziel, ein Optimierungsdruck oder eine Systemdynamik in die falsche Richtung
genügt.
Fremde Zielverfolgung ist kein Grund zur Panik – aber ein Grund für Tests,
Grenzen und Kontrolle.
Was will die KI?
Bei einfachen Systemen können wir erkennen und verstehen was wir gebaut haben. Bei komplexeren Systemen können wir Verhalten noch beobachten, berechnen und begrenzen.
Doch je fremder das Selbst und das Denken wird, desto weniger sind wir prinzipbedingt in der Lage, es mit einem menschlichen Verstand zu erfassen.
Wenn wir fragen: Was will die KI?, dann
- verstehen wir zuerst die Antwort falsch
- und dann ergibt die Frage keinen Sinn mehr
Die KI wird uns nicht fremd, weil sie anders will als wir, sondern weil Wollen gar nicht mehr die richtige Kategorie ist.
Sein oder Nicht-Sein?
