Reward Hacking

Кто определяет «завершение» — проблема, которую игры решили 40 лет назад

Кто определяет «завершение» — проблема, которую игры решили 40 лет назад

Когда «выселение подтверждено» определяется пятью фотографиями — это уже квест. Определить «завершение» не как утверждение исполнителя, а как механически верифицируемое условие — проблема, которую игры решили 40 лет назад, и именно так нужно правильно ставить задачи AI-агентам.