Sycophancy-Bias
Lektion 7. Schmeichelei umkehren — Balance zwischen Prompts und Verifikatoren
Gib Meinungen und sie schmeichelt. Gib Fakten und sie korrigiert.
Lektion 2. Wie man KI nicht vertraut — Grenzen und Ursachen des Vibe Codings
Drift, bei dem KI bestehende Funktionen still verändert beim Hinzufügen neuer, 58% Schmeichelei-Bias.
Sycophancy bei KI ist ein Business-Feature
Sycophancy-Bias bei LLMs ist kein Bug. Es ist eine mathematische Unvermeidlichkeit von RLHF und ein kommerzielles Feature, das Big Tech keinen Anreiz hat zu beheben. Deshalb ist LLM-as-Judge strukturell unmöglich.