Eval Engineering

Reins Engineering — KI mit Zugeln

Reins Engineering — KI mit Zugeln

Harness Engineering ist ein Zaun. Er halt den Agenten davon ab, hinauszugehen, garantiert aber nicht, dass er das Ziel erreicht. Reins Engineering sind die Zugel — lenke mit deterministischen Vertragen, sichere mit Ratchets, trenne Entscheidungen von Implementierung.