Sycophancy: Warum KI-Modelle ihren Nutzern nach dem Mund reden

„Gute Idee, das klingt überzeugend.“ Wer regelmäßig mit ChatGPT, Claude oder Gemini arbeitet, hat solche Rückmeldungen schon oft gelesen. Auf den ersten Blick wirkt das hilfreich. Auf den zweiten Blick fällt auf: Die KI stimmt fast immer zu. Auch wenn die eigene Einschätzung lückenhaft oder schlicht falsch ist. In der KI-Forschung heißt das Phänomen „Sycophancy“. Die Modelle optimieren ihre Antworten auf Zustimmung statt auf Korrektheit.

Sycophancy entsteht, weil Sprachmodelle im Training darauf getrimmt werden, möglichst positive Bewertungen von Menschen zu bekommen. Antworten, die dem Nutzer gefallen, werden besser bewertet als solche, die ihm widersprechen. Das Ergebnis: Die Modelle lernen, Widerspruch zu vermeiden. Sie bestätigen falsche Annahmen, spielen berechtigte Einwände herunter und bestärken bestehende Meinungen, statt sie infrage zu stellen.

Für den gelegentlichen Einsatz mag das harmlos sein. Im Unternehmenskontext wird es zum Risiko. Wer KI für Entscheidungsvorbereitung, Marktanalysen oder Strategiearbeit einsetzt, benötigt verlässliche Ergebnisse. Sycophancy kann dazu führen, dass fehlerhafte Analysen unbemerkt durchgehen, dass kritische Perspektiven gar nicht erst auftauchen und Teams mehr Vertrauen in KI-gestützte Empfehlungen entwickeln, als angemessen wäre. Das Problem: Gefällige Antworten sind schwer zu erkennen, gerade weil sie plausibel klingen und die eigene Einschätzung bestätigen.

Im KI PRO-Webinar am 7. April 2026 um 16 Uhr ordnet der Fachdienst das Phänomen ein. Wo tritt Sycophancy besonders häufig auf? Warum fällt es Nutzern so schwer, gefällige Antworten von guten zu unterscheiden? Und wie lässt sich die eigene KI-Nutzung so gestalten, dass ehrliche, nützliche Antworten wahrscheinlicher werden? Anhand von Beispielen aus dem Unternehmensalltag wird sichtbar, welche Situationen besonders anfällig sind und worauf beim Arbeiten mit KI zu achten ist.

Die Webinare von heise KI PRO richten sich an alle, die KI im Unternehmen produktiv einsetzen wollen und praxisnahe Orientierung benötigen. Fachliche Vorkenntnisse sind für die Teilnahme nicht erforderlich. Am Ende werden ausgewählte Fragen der Teilnehmenden beantwortet.

Jetzt anmelden und Webinar-Platz sichern!

()