انحراف منطقي
الدرس 2. كيف لا تثق بالذكاء الاصطناعي — حدود البرمجة بالإحساس وأسبابها
الانحراف حيث يغيّر الذكاء الاصطناعي الميزات الحالية بصمت عند إضافة ميزة جديدة، تحيز التملق بنسبة 58%، ورياضيات 97% مرفوعة للأس 5 تساوي 86%. لماذا ينهار عند 5 ميزات.
Reins Engineering — الذكاء الاصطناعي بلجام
Harness engineering هو سياج. يمنع الوكيل من الخروج، لكنه لا يضمن وصوله إلى الوجهة. Reins Engineering هو اللجام — توجيه بعقود حتمية، قفل بالسقّاطة، فصل القرارات عن التنفيذ.
Hurl يوقف Logic Drift في Vibe Coding
ينهار Vibe coding إلى logic drift خلال ثلاثة أشهر. CMU وMETR وDORA وAmazon أثبتوا ذلك. أعلن عقود API بـ plain text باستخدام Hurl وأقفلها بـ ratchet — يُكبح الـ drift هيكلياً دون تقييد حرية الذكاء الاصطناعي.