Расход Токенов

Сжечь целый город ради одного ответа

Сжечь целый город ради одного ответа

Модель на триллион параметров сжигает столько электричества и воды, сколько целый город, чтобы выдать один-единственный ответ. Я считал это безумием. Блуждая в поисках ответа, я понял: тот самый изъян, который все пытались исправить, склонность LLM к лести, и был ответом. Накорми её fact, и лесть превращается в точность. Это рассказ о том, почему я начал Reins.