Goodhart
הכלי שנועד לתת לנו מושכות — לא הכיל מושכות בעצמו: גבול הרתמה ו-Reins
"Reins Engineering — זה בסך הכל הנדסת רתמה, לא?" השניים אינם ניגודים — הם חלקים שונים של אותה מיתקנה. אבל חלקים שונים. אפילו סוכן הקוד הטוב בעולם לא הרכיב מושכות על הקוד שלו עצמו. כי Reins אינו משהו שיש לך — הוא משהו שאתה מפעיל.
מי מגדיר את 'הושלם' — הבעיה שמשחקי הווידאו פתרו 40 שנה לפניכם
ברגע שמגדירים אישור פינוי דייר כחמש תמונות ממיקומים מוגדרים, זה הופך לקווסט. להגדיר את 'הושלם' כתנאים שניתן לאמת אותם מכנית — לא כטענה של הגורם המבצע — זו הבעיה שמשחקי הווידאו פתרו 40 שנה לפניכם, והדרך הנכונה לתת לסוכן AI לעשות עבודה כהלכה.