Verifikation
Sprachfluss ist nicht Wahrheit
Menschen übersehen selbstbewusste, sprachgewandte KI-Fehler nicht, weil sie unachtsam sind. Nicht-Bemerken ist der Bevölkerungsdurchschnitt – gemessen bei KI-geschulten Ärzten und bei erfahrenen Entwicklern, die auch dann noch überzeugt waren, schneller gewesen zu sein, als die Daten das Gegenteil zeigten.
Sycophancy bei KI ist ein Business-Feature
Sycophancy-Bias bei LLMs ist kein Bug. Es ist eine mathematische Unvermeidlichkeit von RLHF und ein kommerzielles Feature, das Big Tech keinen Anreiz hat zu beheben. Deshalb ist LLM-as-Judge strukturell unmöglich.