אימות
שטף אינו אמת
אנשים לא מפספסים שגיאות בינה מלאכותית בטוחות ושוטפות בגלל רשלנות. אי-הבחנה היא ברירת המחדל האוכלוסייתית — כפי שנמדד אצל רופאים שהוכשרו לעבודה עם בינה מלאכותית ואצל מפתחים מנוסים שנותרו משוכנעים שהם מהירים יותר גם אחרי שהנתונים הראו אחרת.
הטיית Sycophancy ב-AI היא פיצ'ר עסקי
הטיית החנופה של LLM היא לא באג. היא הכרח מתמטי של RLHF ופיצ'ר מסחרי שלחברות הטכנולוגיה הגדולות אין תמריץ לתקן. זו הסיבה ש-LLM-as-Judge בלתי אפשרי מבחינה מבנית.