Verifier
Предпосылки повышения точности мультиагентных LLM-систем
Запустишь несколько агентов — и станет точнее? Верно лишь наполовину. Модели, обученные на одних и тех же данных, ошибаются в одних и тех же местах. Мультиагентность работает при двух условиях — либо вы проектируете независимость ошибок, либо в верифицируемой области ставите verifier за пределами LLM.
Урок 7. Переворачивая лесть — Баланс промптов и верификаторов
Дайте мнение — и он льстит. Дайте факт — и он исправляет.