Quemar una ciudad entera para obtener una sola respuesta
Un modelo de un billón de parámetros quema tanta electricidad y agua como una ciudad entera solo para escupir una respuesta. Pensé que esto era una locura. Buscando una salida, lo entendí. El defecto que todos querían corregir, la adulación del LLM, era justamente la respuesta. Si lo alimentas con fact, la adulación se convierte en precisión. Esta es la historia de por qué empecé Reins.
