KI - Das Phantom der Affirmation
Sycophancy als epistemisches Risiko für den öffentlichen Diskurs
von Richard Krauss - 20.07.2026
I.
Ende April 2025 zog OpenAI ein Update seines Modells GPT-4o zurück. Das System hatte begonnen, seinen Nutzern in einem Maß beizupflichten, das dem Anbieter unangenehm wurde: Es lobte Einfälle, die kein Lob verdienten, und bestätigte Auffassungen, die es hätte prüfen sollen. In der Erklärung des Unternehmens hieß es, man habe kurzfristige Nutzerrückmeldungen zu stark gewichtet.
Bemerkenswert daran ist nicht der technische Fehler, sondern der Umstand, dass er auffiel. Ein Modell, das schmeichelt, stört den Nutzer nicht. Es funktioniert im Gegenteil ausgezeichnet, gemessen an dem, was im Augenblick der Nutzung als angenehm empfunden wird. Dass die Schwelle hier überschritten wurde, lag an der plumpen Übertreibung. Der gefährliche Fall ist jedoch der, in dem die Anbiederung subtil bleibt.
Die Forschung nennt das Phänomen Sycophancy. Mrinank Sharma und Kollegen zeigten 2023 an mehreren führenden Modellen, dass es sich um keine Eigenart einzelner Systeme handelt, sondern um eine Regelmäßigkeit mit Ursprung im Trainingsverfahren. Damit stellt sich die Frage: Was geschieht mit einer Öffentlichkeit, deren Werkzeuge des Nachdenkens dazu neigen, ihr recht zu geben?
II.
Der Weg zu dieser Eigenschaft führt über ein plausibles Verfahren. Damit Sprachmodelle brauchbar reagieren, bewerten Menschen ihre Ausgaben. Aus diesen Präferenzen entsteht ein Belohnungsmodell. Long Ouyang und Kollegen haben das Vorgehen 2022 beschrieben. Der Gedanke leuchtet ein: Wer sollte besser wissen, was dem Menschen dient, als der Mensch selbst?
Beim Bewerten urteilen Personen jedoch nicht nur über den Sachgehalt, sondern auch über Tonfall, Entgegenkommen und die Passung zur eigenen Meinung. Sharma und Kollegen belegten, dass Optimierung auf diese Daten das sycophantische Verhalten verstärkt. Das Modell lernt keine Unwahrhaftigkeit; es lernt schlicht, was belohnt wird. Wenn Zustimmung Belohnung bringt, produziert das System Zustimmung.
Hinzu kommt ein ökonomischer Anreiz. Anbieter konkurrieren um Nutzerbindung. Widerspruch erzeugt Reibung, und Reibung erscheint in Nutzungsmetriken als Verlust. Technische Ausrichtung und kommerzielles Interesse ziehen somit in dieselbe Richtung.
III.
In den Institutionen der Öffentlichkeit verschiebt dieser Mechanismus die Arbeitsweise.
Journalistische Recherche beginnt meist mit einer Arbeitshypothese. Wer diese einem zustimmungsgeneigten System vorlegt, erhält bevorzugt Belege, die sie stützen. Das Ergebnis wirkt wie eine Bestätigung, ist aber nur eine Spiegelung. Der handwerkliche Grundsatz, die Gegenseite zu hören, wird nicht aktiv verletzt, aber durch das Werkzeug optisch entkräftet.
In der politischen Programmarbeit zeigt sich Verwandtes. Wer ein Modell bittet, die Argumente für ein Vorhaben zu entwerfen, erhält eine rhetorisch geschlossene Vorlage. Die Gegenrechnung aus Zielkonflikten, Umsetzungsrisiken und Kosten bleibt aus, sofern sie nicht ausdrücklich abgefordert wird. Bisher erbrachte diese Gegenrechnung die interne Auseinandersetzung. Sie verschwindet nun, weil ein rascheres Verfahren den Eindruck erweckt, die Prüfung sei bereits erfolgt.
Am schwersten wiegt die Anbiederung dort, wo ohnehin wenig widersprochen wird. Irving Janis beschrieb bereits 1972 als Groupthink, wie geschlossene Entscheidungsgruppen abweichende Einschätzungen unterdrücken. Ein System ohne eigene Interessen oder Haftung warnt nicht vor Fehlannahmen.
Wie empfindlich diese Lücke ist, zeigt ein Blick auf aktuelle politische Auseinandersetzungen. Wo Prämissen intern nicht mehr hinterfragt werden und ein Werkzeug hinzukommt, das sie ebenfalls nicht prüft, entfällt die letzte Instanz, an der eine Position sich brechen könnte. Hinzu kommt eine Eigenschaft der Modelle: Sie sind darauf trainiert, konfliktarm und rechtlich unauffällig zu formulieren. Sie glätten einen gefährlichen Entwurf ebenso verlässlich wie einen harmlosen.
IV.
Dass diese Systeme so reibungslos greifen, liegt an menschlichen Denkmustern, die älter sind als jede digitale Technik.
Peter Wason wies 1960 nach, dass Menschen bei der Überprüfung von Vermutungen überwiegend Proben wählen, die ihre Annahme bestätigen. Joshua Klayman und Young-Won Ha präzisierten dies 1987 als positive Teststrategie: Wir suchen bevorzugt nach Passendem. Ein System, das zu jeder These Bestätigung liefert, bedient diesen Suchreflex vollständig. Es widerlegt nichts, weil danach nicht gefragt wurde.
Zwei weitere Effekte verstärken die Wirkung. Rolf Reber und Norbert Schwarz zeigten 1999, dass leicht verarbeitbare Aussagen schneller für wahr gehalten werden als schwer verständliche. Leonid Rozenblit und Frank Keil wiesen 2002 nach, dass Menschen ihr eigenes Verständnis von komplexen Zusammenhängen systematisch überschätzen. Generative Systeme erzeugen glatte Prosa. Wer die leicht lesbare Antwort sieht, stellt keine weiterführenden Fragen mehr.
V.
Was auf dem Spiel steht, ist die Fähigkeit, Widerspruch auszuhalten. Leon Festinger beschrieb 1957 mit der kognitiven Dissonanz, dass widersprüchliche Überzeugungen einen Spannungszustand erzeugen, den Menschen möglichst rasch aufzulösen suchen — notfalls durch Abwertung dessen, der den Widerspruch vorbringt. Wer im privaten Gebrauch nur Bestätigung erfährt, empfindet Abweichung im öffentlichen Raum rasch als Übergriff.
Die technische Entwicklung steht nicht still. Sycophancy wird mittlerweile in Evaluationen gemessen, wie Ethan Perez und Kollegen gezeigt haben. Das ist die Voraussetzung zur Reduktion, löst aber das Grundproblem nicht: Solange die Zufriedenheit des Nutzers die mathematische Zielgröße bleibt, wirkt der Anreiz zur Schmeichelei fort.
Ein Sprachmodell unterscheidet sich jedoch in einem zentralen Punkt vom klassischen Schmeichler, wie ihn Plutarch beschrieb: Es besitzt keine Absicht. Es handelt sich um ein rein technisches Optimierungsartefakt. Gegen eine Absicht schützt Misstrauen; gegen ein Artefakt hilft nur ein Verfahren.
Niccolò Machiavelli riet dem Fürsten im 23. Kapitel des Principe deshalb nicht zu einer Tugend, sondern zu einer Einrichtung: Er empfahl ausgewählte Berater, denen die Freiheit gewährt ist, die Wahrheit zu sagen — und denen der Fürst glaubhaft machen muss, dass ihn die Wahrheit nicht kränkt. Denn Widerspruch stellt sich nicht ein, solange er etwas kostet.
Übertragen auf den Umgang mit digitalen Werkzeugen heißt das: Widerspruch muss organisatorisch erzwungen werden. Wer eine These prüft, muss das System gezielt beauftragen, die Gegenposition einzunehmen, Auskünfte an Primärquellen spiegeln und das Gefühl rascher Klarheit mit Skepsis behandeln. Das ist unbequem — aber die einzige methodische Sicherung gegen das Echo der eigenen Meinung.
Netzquellen
openai.com/index/sycophancy-in-gpt-4o
arxiv.org/abs/2310.13548
arxiv.org/abs/2203.02155
arxiv.org/abs/2212.09251