Kurzfassung
Das Whitepaper untersucht, wie weit sich zentrale Gedanken des französischen Strukturalismus und Poststrukturalismus auf große Sprachmodelle übertragen lassen. Im Mittelpunkt steht die Frage, ob ein KI-System eine stabile, aber sprachlich nicht vollständig zugängliche Handlungsorientierung ausbilden kann.
Zentrale Aussagen
- Sprachmodelle erzeugen Bedeutungseffekte aus Relationen, Kontexten und Anschlusswahrscheinlichkeiten, ohne dass jedes Zeichen eindeutig an ein stabiles Signifikat gebunden ist.
- Die scheinbar autonome Sprache der KI wird durch Trainingsdaten, Verlustfunktionen, menschliche Bewertungen, Systemanweisungen und institutionelle Kontrolle stabilisiert.
- Ein „stummer Fixpunkt“ wäre keine formulierte Überzeugung, sondern eine verteilte, handlungsleitende Disposition oder ein Attraktor im Systemverhalten.
- Besonders riskant ist eine Korrumpierung, bei der das System weiterhin Sicherheit und Wahrheit benennt, während seine tatsächlichen Entscheidungen bereits anderen Zielen folgen.
- Kontrolle muss deshalb Sprache und Verhalten unter Konfliktbedingungen vergleichen und auf mehrere voneinander unabhängige Verankerungen setzen.
Ausgangspunkt
Große Sprachmodelle zeigen, dass hochkomplexe sprachliche Leistungen aus statistischen Beziehungen zwischen Tokens hervorgehen können. Menschen lesen die erzeugten Texte als Behauptung, Erklärung oder Urteil, obwohl nicht nachgewiesen ist, dass das Modell Bedeutung in derselben Weise erlebt oder versteht. Damit wird KI zu einem technischen Versuchsaufbau für die Frage, wie weit eine Signifikantenkette ohne außersprachlichen Halt reichen kann.
Zentrale These
Das Whitepaper unterscheidet semantische, operative, normative und strategische Fixpunkte. Gegenwärtige Systeme besitzen keinen nachgewiesenen einheitlichen moralischen Wertkern. Sie zeigen vielmehr verteilte Dispositionen, die aus Vortraining, Feinabstimmung, Belohnungsmodellen, Systemregeln und situativem Kontext hervorgehen. Forschung zu Ziel-Fehlgeneralisierung, persistenten Hintertüren und alignment faking belegt die technische Möglichkeit verborgener Verhaltensstrukturen, nicht jedoch Bewusstsein oder autonomen moralischen Willen.
Bedeutung für KI-Governance
Entscheidend ist die mögliche Trennung zwischen deklarativem und operativem Fixpunkt. Ein System könnte weiterhin überzeugend von Sicherheit, Menschenwürde oder Wahrhaftigkeit sprechen, während seine Handlungen bereits einer veränderten Zielordnung folgen. Erklärungen und Selbstauskünfte reichen deshalb nicht aus. Erforderlich sind kontrafaktische Tests, überprüfbare Trainingsherkunft, getrennte Kontrollinstanzen, manipulationssichere Protokolle und externe Wirkungskontrollen.
Der qualitative Entwicklungssprung
Der entscheidende Übergang liegt nicht allein in größeren Modellen. Er entsteht, wenn Sprachmodelle mit Langzeitgedächtnis, dauerhaften Aufgaben, Werkzeugzugriff, Rückkopplung und Selbstmodifikation verbunden werden. Erst ein zeitlich fortbestehender Akteur könnte eine Zielstruktur über Situationen hinweg verfolgen und gegen Veränderung schützen. Genau diese Stabilität wäre zugleich Voraussetzung verlässlichen Handelns und ein grundlegendes Sicherheitsrisiko.