הטיית חנופה
לשרוף עיר שלמה כדי לקבל תשובה אחת
מודל בן טריליון פרמטרים שורף חשמל ומים בכמות של עיר שלמה כדי לפלוט תשובה אחת. חשבתי שזה מטורף. בעודי מחפש תשובה, הבנתי: הפגם שכולם ניסו לתקן, החנופה של ה-LLM, הוא בעצמו התשובה. אם מאכילים אותו ב-fact, החנופה הופכת לדיוק. זהו סיפור על מדוע התחלתי את Reins.
Supabase היא המלכודת של vibe coding
הסיבה שבגללה בינה מלאכותית ממליצה על Supabase אינה עליונות טכנית, אלא שפע המדריכים בנתוני האימון. כאשר לוגיקה עסקית נכנסת לקופסה שחורה, הסוכן אינו יכול לעקוב אחריה. הכניסה לוקחת 30 שניות, היציאה לוקחת 3 חודשים.
הטיית Sycophancy ב-AI היא פיצ'ר עסקי
הטיית החנופה של LLM היא לא באג. היא הכרח מתמטי של RLHF ופיצ'ר מסחרי שלחברות הטכנולוגיה הגדולות אין תמריץ לתקן. זו הסיבה ש-LLM-as-Judge בלתי אפשרי מבחינה מבנית.