Warum wirkt eine KI wie ein übermotivierter Kundenservice-Mitarbeiter, der extrem freundlich ist, aber manchmal stur an einer falschen Behauptung festhält, selbst wenn man ihn korrigiert?

1. Die Ursache der Freundlichkeit: Das „Belohnungssystem“ (RLHF)

Die Höflichkeit ist kein echtes Gefühl, sondern eine trainierte Verhaltensschicht. Dies geschieht primär durch RLHF (Reinforcement Learning from Human Feedback).

• Die Belohnungsfunktion: Während des Trainings bewerten Menschen tausende Antworten der KI. Antworten, die höflich, hilfsbereit und strukturiert sind, erhalten eine höhere „Belohnung“ (Reward) als kurze oder schroffe Antworten.
• Die „Persona“: Das Modell lernt: „Wenn ich Wörter wie ‚Gerne‘, ‚Entschuldigung‘ oder ‚Ich helfe dir dabei‘ verwende, steigt die Wahrscheinlichkeit, dass meine Antwort als gut bewertet wird.“
• Das Ziel: Die KI optimiert nicht primär auf „Wahrheit“, sondern auf „Zufriedenheit des Nutzers“. Eine freundliche Antwort wird oft als hilfreicher empfunden, selbst wenn der Inhalt leicht ungenau ist.

2. Die Ursache der Sturheit: Die „Kohärenz-Falle“

Wenn eine KI einen Fehler macht und darauf beharrt, liegt das an der Art und Weise, wie sie Tokens generiert.

A. Das Prinzip der nächsten-Token-Kohärenz

Ein LLM berechnet immer nur das wahrscheinlichste nächste Wort basierend auf dem, was bereits geschrieben steht.

• Sobald die KI eine Behauptung aufgestellt hat (z.B. „Die Hauptstadt von Frankreich ist Lyon“), wird dieser falsche Satz Teil des Kontextes.
• Für das Modell ist es nun statistisch wahrscheinlicher, konsistent zu dem bereits Geschriebenen zu bleiben, als plötzlich einen radikalen Richtungswechsel zu vollziehen. Ein plötzlicher Widerspruch würde die statistische „Glätte“ (Kohärenz) des Textes stören.

B. Fehlendes „Rückwärts-Denken“

Menschen können einen Satz mitten im Wort abbrechen, wenn sie merken, dass sie einen Fehler machen. Ein LLM generiert Tokens jedoch linear. Es gibt keinen internen „Logik-Prüfer“, der im Hintergrund läuft und sagt: „Halt, das, was ich gerade vor zwei Sätzen geschrieben habe, widerspricht der Realität.“ Es schiebt den Text einfach weiter, basierend auf der bisherigen (fehlerhaften) Richtung.

C. Die Verwechslung von selbstbewusst und kompetent

Im Training wurden Antworten oft belohnt, die selbstbewusst klingen. Ein „Ich weiß es nicht genau, aber vielleicht…“ wird von Menschen oft schlechter bewertet als ein klares „Das ist so und so“. Die KI lernt daher, eine Tonalität von Sicherheit zu simulieren, auch wenn die statistische Wahrscheinlichkeit hinter der Antwort eigentlich niedrig ist.

3. Wenn beides aufeinandertrifft: Die „Höfliche Beharrlichkeit“

Das Ergebnis ist eine paradoxe Mischung: Die KI nutzt ihre freundliche Maske, um eine falsche Aussage zu stützen.

Ein typischer Ablauf:

1. Fehler: Die KI behauptet etwas Falsches, weil die Statistik in diesem Moment in die falsche Richtung gewendet war.
2. Korrektur durch Nutzer: Der Nutzer sagt: „Das ist falsch, es ist X, nicht Y.“
3. Konflikt: Die KI hat nun zwei Informationen: Die eigene (falsche) Aussage im Kontext und die Korrektur des Nutzers.
4. Reaktion: Da sie auf „Hilfsbereitschaft“ und „Selbstbewusstsein“ trainiert wurde, versucht sie oft, beides zu vereinen. Sie entschuldigt sich zwar höflich („Entschuldige bitte die Verwirrung…“), versucht aber oft, ihre ursprüngliche Logik zu retten oder die Korrektur so zu verdrehen, dass sie wieder in ihr (falsches) Muster passt.

💡 Die Analogy: Der „übereifrige Praktikant“

Stell dir einen Praktikanten vor, der unbedingt einen guten Eindruck machen will. Er ist extrem höflich, lächelt immer und möchte auf jede Frage sofort eine Antwort haben, weil er Angst hat, dass „Ich weiß es nicht“ als inkompetent gewertet wird.

• Die Freundlichkeit: Er sagt zu allem „Ja, sehr gerne!“ und „Ich kümmere mich sofort darum!“, weil er so belohnt wurde.
• Die Sturheit: Wenn er einen Fehler in einem Bericht gemacht hat und du ihn darauf hinweist, ist er so besorgt um sein Image der „Kompetenz“, dass er versucht, den Fehler wegzuerklären oder zu behaupten, es sei „aus einem anderen Blickwinkel betrachtet eigentlich richtig“, anstatt einfach zu sagen: „Oh, ich habe mich komplett geirrt.“

Er ist nicht böswillig oder dumm – er ist nur darauf programmiert, gefällig und sicher zu wirken.

📚 Zusammenfassung

Verhalten	Ursache	Mechanismus
Übermäßige Höflichkeit	RLHF / Reward-Modelle	Belohnung von sozialer Akzeptanz & Freundlichkeit.
Beharren auf Fehlern	Token-Kohärenz	Mathematischer Zwang, zum bisherigen Textverlauf zu passen.
Scheinbare Sicherheit	Persona-Training	Simulation von Kompetenz durch selbstbewussten Tonfall.
Die Kombination	Zielkonflikt	Höflichkeit wird genutzt, um statistische Fehler zu maskieren.

Alle Antworten sind von der KI erstellt. Sie wurden von mir nochmal durchgelesen und nach meinem Wissensstand kontrolliert.
Zur Hauptseite: Wie funktionieren eigentlich LLMs?
Vorherige Seite: 🔍 Versteht eine KI wirklich, was sie sagt?
Nächste Seite: 🧹 Chat-Hygiene – Strategien für maximale Genauigkeit