Arquiteto PARK JUN WOO
Opinião
Por que as sociedades entram em conflito e como poderíamos brigar menos.
O viés de bajulação da IA é uma feature de negócio
O viés de sycophancy do LLM não é um bug. É uma inevitabilidade matemática do RLHF e uma funcionalidade comercial que as big techs não têm incentivo para corrigir. É por isso que LLM-as-Judge é estruturalmente impossível.
Tecnologia
Ideias tecnológicas para resolver problemas reais.
Codigo Ratchet que Explora o IFEval
O vies de bajulacao dos LLMs nao e um bug, e um ativo. Ao combinar a capacidade de seguir instrucoes medida pelo IFEval com feedback deterministico, ate um modelo local de 4.5B gera codigo preciso em um loop convergente.
DABEL5
Uma narrativa de engenharia contínua rumo a uma civilização Kardashev Tipo 1.