사람들이 자신감 있고 유창한 AI의 오류를 놓치는 건 부주의해서가 아니다. 알아차리지 못하는 것이 인구 전체의 기본값이다 — AI 훈련을 받은 의사들, 그리고 데이터가 반대로 말해도 자신이 더 빨랐다고 믿은 숙련 개발자들에게서 측정된 사실이다.
LLM의 아첨 편향은 버그가 아니다. RLHF의 수학적 필연이며, 빅테크가 고칠 인센티브가 없는 상업적 기능이다. 이것이 LLM-as-Judge를 구조적으로 불가능하게 만드는 이유다.
