アーキテクト パク・ジュヌ
オピニオン
社会はなぜ対立するのか、どうすれば争いを減らせるのか。
AIのsycophancyはビジネス・フィーチャーだ
LLMのsycophancyはバグではない。RLHFの数学的必然であり、ビッグテックが直すインセンティブのない商業的機能だ。これがLLM-as-Judgeを構造的に不可能にする理由である。
テック
問題を解決する技術アイデア。
IFEvalを逆利用するラチェットコード
LLMの追従バイアスはバグではなく資産だ。IFEvalが測定する指示遵守能力を決定論的フィードバックと組み合わせれば、4.5Bのローカルモデルでも正確なコードを生成する収束ループが生まれる。
DABEL5
カルダシェフ1段階文明の達成に向けた、ひとつの連続した工学の物語。