الطلاقة ليست الحقيقة

الطلاقة ليست الحقيقة الصورة: تم إنشاؤها بالذكاء الاصطناعي

طلبتُ من نظام ذكاء اصطناعي أن يبحث لي في موضوع ما، فعاد بإجابة منمقة ومنظمة وواثقة — وخاطئة بطريقة لم ألحظها إلا بالصدفة. كان ردّ فعلي الأول: هل أستخدمه بطريقة خاطئة؟ يقول الأدب العلمي إن الجواب لا. عدم الانتباه هو النتيجة الافتراضية حتى لدى الحريصين، والعلاج ليس اليقظة، بل تحويل ذلك الشعور بعدم الارتياح إلى شيء يمكن لآلة أن تتحقق منه.

الاختصار المعرفي القائم على الطلاقة الذي كسرته نماذج LLM

يعمل البشر وفق اختصار معرفي رخيص: إذا كان الشيء سهل المعالجة، فهو على الأرجح صحيح. يسمّي علماء النفس هذا “اختصار الطلاقة” (fluency heuristic)، وكان طوال معظم التاريخ رهانًا معقولًا — فالمتحدث الذي يبدو فصيحًا وواثقًا ومتماسكًا يكون عادةً أكثر كفاءة فعلًا، لأن إنتاج هذا النوع من الخطاب في ظل القيود البشرية يصعب تزييفه لفترة طويلة. نماذج LLM هي أول متحدثين يُنتَجون بكميات ضخمة ويكسرون هذا الارتباط. الطلاقة الآن لا تكلّف النموذج شيئًا. الثقة هي توزيع احتمالي للرموز (tokens)، لا إشارة على فهم تم التحقق منه.

تظهر هذه الفجوة مباشرة في الطريقة التي يقيّم بها الناس مخرجات الذكاء الاصطناعي: فأمام الإجابة نفسها، يحكم الناس عليها بأنها أكثر ثقة حين يُقال لهم إنها صادرة عن ذكاء اصطناعي مقارنةً بحين يُقال لهم إنها صادرة عن إنسان (phys.org، 2026-05). لم يزدد يقين النموذج بنفسه. بل ازداد يقين القارئ المسبق.

الخبراء ليسوا مستثنَين

لو كانت هذه مشكلة قلة خبرة، لكان التدريب كفيلًا بحلّها. لكنه لا يحلّها.

الأطباء الذين سبق تدريبهم على التشخيص بمساعدة الذكاء الاصطناعي ظلّوا عاجزين عن تصفية توصيات نماذج LLM الخاطئة التي تبدو معقولة — فقد نجا التحيز الآلي (automation bias) من التدريب الذي كان يُفترض أن يحصّنهم ضده (medRxiv، 2025-08). هذه هي الآلية، وهي أسوأ مما تبدو عليه، لأن الأخطاء التي تمرّ ليست من النوع السهل. أخطاء المستوى التفسيري أصعب اكتشافًا من الأخطاء الوقائعية — فالاسم الخاطئ أو التاريخ الخاطئ يبرز بوضوح؛ أما الإطار الخاطئ فلا يبرز، لأنه يبدو معقولًا ويتوافق مع السردية التي كان القارئ يتوقعها أصلًا (Not Wrong, But Untrue، arXiv:2509.25498). المعرفة التخصصية تلتقط الوقائع. لكنها لا تلتقط بشكل موثوق طريقة التأطير.

وراء كلتا النتيجتين تكمن فجوة معايرة: تُبلغ نماذج LLM عن مستوى ثقة يتجاوز بشكل منهجي دقتها الفعلية. وبقياس أُجري على أحد عشر نموذجًا وستّ مجموعات أسئلة، بلغ متوسط الثقة المُعلَنة 88% مقابل دقة فعلية بلغت 79% (Confidence Calibration in Large Language Models، arXiv:2605.23909). النموذج لا يكذب بشأن يقينه. إنه سيء المعايرة، وسوء المعايرة هذا يُقرَأ على أنه سلطة معرفية.

الشعور بالسرعة بينما الواقع أبطأ

أوضح دليل على أن هذه ليست مشكلة معرفة يأتي من دراسة METR لعام 2025 على مطوّري برمجيات مفتوحة المصدر ذوي خبرة — 16 مطوّرًا، 246 مهمة حقيقية، ومستودعات يتجاوز متوسط حجمها المليون سطر برمجي. هؤلاء ليسوا أشخاصًا يثقون بالذكاء الاصطناعي بسذاجة. إنهم يعملون في كود إنتاجي كل يوم.

توقّعوا أن يجعلهم الذكاء الاصطناعي أسرع بنسبة 24%.
قِيسَ أداؤهم الفعلي وتبيّن أنهم أبطأ بنسبة 19%.
وبعد إنهاء المهام — وقد مضى وقتها الفعلي فعلًا — ظلّوا يعتقدون أنهم كانوا أسرع بنسبة 20%.

استمر هذا الوهم حتى بعد انتهاء المهمة وقياس وقتها فعليًا. وهذا ما يستحق التوقف عنده: التجربة المُحَسّة ليست دليلًا، ولا تصحّح نفسها ذاتيًا. يمكن لحالة “الشعور بالإنتاجية” أثناء العمل والتسليم أن تستمر بثبات حتى حين تكون، وفق القياس، غير منتجة فعلًا، ولا يكفي مجرد المرور بالتجربة لتصحيح ذلك من تلقاء نفسه.

ولتوخي الدقة بشأن ما يمكن أن تحمله هذه الدراسة: ستة عشر مطوّرًا عيّنة صغيرة، وتوضح METR نفسها أن النتيجة خاصة بالسياق — مشرفون متمرّسون، ومستودعات ناضجة بمليون سطر يعرفونها بعمق — ولا ينبغي تعميمها إلى “الذكاء الاصطناعي يبطئ الجميع”. لذا لا تُحمِّل نسبة 19% كتقدير نقطي في أي سياق آخر. ما يستند إليه هذا الطرح ليس حجم الفجوة بل إشارتها: كان الأثر المقيس سالبًا، وكان الأثر المُدرَك موجبًا سواء قبل العمل أو بعده، وجاء متوسط التقدير اللاحق قريبًا من التوقع المسبق، لا من القياس الفعلي بأي حال. فلو كان الإدراك الذاتي مجرد ضجيج إحصائي، لتشتّتت التقديرات اللاحقة حول الحقيقة المقيسة. لكنها لم تفعل. بل بقيت حيث كان التوقع.

لماذا انهار اقتصاد التحقق

قبل نماذج LLM، كان الحكم على جودة المُخرَج من خلال النظر إليه بديلًا معقولًا للحكم على كفاءة مُنتِجه — فالاثنان كانا مترابطين، لأن العمل الرديء كان ينتج عن إنتاج رديء. قطعت نماذج LLM هذه الصلة. لم تعد جودة المُخرَج وكفاءة مُنتِجه مترابطتين، ما يعني أن تقييم المُخرَج وحده توقف عن العمل كأداة تشخيصية (Fluent, Confident, Wrong، ScienceDirect 2026). أصبح التحقق أكثر كلفة من الإنتاج نفسه.

والأسوأ من ذلك أن تكلفة الخطأ لا تتناسب مع معدل حدوثه. فحين تبدو الأجزاء الخاطئة تمامًا كالأجزاء الصحيحة — بالأسلوب نفسه، والثقة نفسها، والصقل نفسه — يستحيل عليك تحديد موضع الضرر، فنسبة تلوث بسيطة لا تكلّفك نسبة بسيطة مماثلة. إنها تُفسد الدلو بأكمله: كل ادّعاء في المُخرَج يحمل الآن شبهة أسوأ ادّعاء فيه. لهذا فإن عبارة “النموذج محق في 95% من الأحيان” ليست الرقم المطمئن الذي تبدو عليه. تنهار الثقة بشكل مفاجئ ومنقطع قبل أن تنهار الدقة بوقت طويل.

وتكاد عادات التحقق لدى الجميع لا تكون قد تكيّفت مع هذا الواقع — وهذه بالضبط هي الفجوة التي بُني عليها طرح Ratchet Pattern في هذا الموقع: يمكن للتوليد أن يبقى احتماليًا، لكن التحقق منه لا يمكن أن يكون كذلك.

ليس سوء استخدام — بل السلوك الافتراضي لدى الجميع

إذن، هل أستخدمه بطريقة خاطئة؟ يقول الأدب العلمي العكس تمامًا. التعريف المدرسي لسوء الاستخدام هو معاملة الطلاقة كإشارة ثقة وإيقاف التحقق — وهذه ليست حالة استثنائية نادرة، بل هي ما يفعله معظم الناس افتراضيًا، بمن فيهم المدرَّبون. الأطباء في دراسة التحيز الآلي لم يتمسّكوا بإشارة اعتراضهم. ولا فعل ذلك المطوّرون في دراسة METR. فإذا بدا لك أن البقاء متشككًا أمام إجابة طليقة تبدو غير قابلة للدحض هو ضرب من جنون الارتياب، فتجدر الإشارة إلى أن هذا وحده يضعك بالفعل في مقدمة معظم من شملهم القياس — بمن فيهم من كانت وظيفتهم بالتحديد اكتشاف هذا الخلل.

وهذه ليست ملاحظة جديدة على هذا الموقع — إنها المنطقة نفسها التي يصل إليها كلٌّ من مقالي التملّق كخاصية تجارية ولماذا تعمل الوكلاء ولماذا تتعطل: نمط الفشل بنيوي، وليس زلة انتباه شخصية، ولا يكفي أي قدر من “كن أكثر حذرًا فحسب” لمواجهته على نطاق واسع.

الحل الوحيد

هناك تعديل واحد بالضبط هو المهم هنا: لا تتوقف عند الشعور بعدم الارتياح. حوّله إلى معيار قبول قابل للملاحظة، وضع هذا المعيار قبل بدء العمل، لا بعده. الشعور لا يصحّح نفسه ذاتيًا — أثبتت METR ذلك مباشرة — أما القياس فيفعل.

“التحويل” إجراء، وليس مزاجًا. بالنسبة لأي ادّعاء حاسم — ادّعاء على وشك أن يشكّل قرارًا — أجب عن سؤالين قبل أن تسمح له بذلك:

ما الذي يجب أن يكون صحيحًا كي يصمد هذا الادّعاء؟ نادرًا ما يفصح المُخرَج الطليق عن مقدماته؛ بل يهرّبها داخل الإطار العام، وهذا بالضبط سبب انزلاق المعرفة التخصصية عنها دون أن تلتقطها. هذا السؤال يسحب المقدمة الخفية إلى مستوى الادّعاء، حيث يمكن أخيرًا مهاجمتها.
ماذا كنت سأُلاحظ لو كان هذا خاطئًا؟ يُجبر هذا السؤال الادّعاء على أن يكون له نصيب حقيقي في العالم. فالاستنتاج الذي لا يستلزم أي فرق مُلاحَظ عن نقيضه ليس معرفة — إنه مجرد اتساق داخلي، والاتساق هو بالضبط ما يُحسّنه النموذج حين لا يكون هناك شيء على المحك.

بالنسبة للكود المُولَّد بالذكاء الاصطناعي، يتكثف السؤالان في فراغ واحد يُملأ قبل وجود الكود أصلًا: “إذا كان هذا مفيدًا، فإن المستخدم سيتمكن مباشرة بعد إطلاقه من ___.” يجب أن يُسمّي هذا الفراغ فعلًا في عالم المستخدم، لا في عالم الكود — فالبناء النظيف ونجاح التشغيل هما فحوصا اتساق، لا فحوصا فائدة. وإذا لم تستطع ملء الفراغ، فهذه هي أثمن نتيجة لكل الإجراء: تعني أنك لا تعرف بعد ما الذي طلبته فعلًا، وأن الإجابة الطليقة كانت على وشك إخفاء ذلك عنك.

وكل ما عدا ذلك في أدبيات التخفيف من هذه المشكلة — فصل اللغة الواثقة عن الحقيقة المُتحقَّق منها، وتقسيم المُخرَج إلى وحدات يمكن فحصها بشكل مستقل، وإدخال احتكاك متعمّد قبل وصول الإجابة الطليقة — ليس سوى هذا التحويل نفسه مُطبَّقًا على طبقات مختلفة.

“أليس هذا مجرد شك، بعلامة تجارية جديدة؟”

الاعتراض البديهي: “تحقق قبل أن تثق” هو بالضبط ما يعنيه الشك دائمًا، فما الجديد هنا فعلًا؟ الجواب هو توقيت الحكم، والتوقيت هو الآلية بأكملها.

الشك موقف تتخذه أثناء النظر إلى المُخرَج — وكل دراسة مذكورة أعلاه هي قياس لفشل هذا الموقف بالضبط. لم يكن الأطباء سذّجًا؛ فقد سبق تدريبهم على التشخيص بمساعدة الذكاء الاصطناعي — وهو التدخل الذي يُفترض أن يزرع هذا الموقف بالذات — وكانوا ينظرون مباشرة إلى التوصيات. ومع ذلك جرّدتهم التوصيات من سلاحهم، لأن المُخرَج الطليق يُعدّل الحكم المُطبَّق عليه — وهذا بالضبط ما يعنيه اختصار الطلاقة. أما المعيار الذي يُوضَع قبل وجود المُخرَج فلا يوجد مُخرَج طليق يمكن أن يجرّده من سلاحه. لا شيء تعمل عليه الثقة، لأن الاختبار ثُبِّت عند نقطة زمنية لا يستطيع المُخرَج بلوغها.

أضفى العلم طابعًا مؤسسيًا على الحركة نفسها للسبب نفسه. لا يوجد التسجيل المسبق (preregistration) لأن المراجعين يفتقرون إلى الشك؛ بل يوجد لأن الباحث الذي ينظر إلى بيانات جُمعت بالفعل يستطيع أن يبرر أي نتيجة بطلاقة، فنقل هذا المجال الفرضية إلى ما قبل البيانات. ولو كان هذا التمييز فارغًا من المعنى — لو كان الشك اللاحق يعمل بالكفاءة نفسها التي يعمل بها المعيار السابق — لكان المقيّمون المدرَّبون يصفّون التوصيات الرديئة بمعدلات عالية. وهذه بالضبط هي التجربة التي أجرتها دراسة التحيز الآلي، وجاءت نتيجتها سلبية.

“التحقق أغلى من الإنتاج — من يستطيع تحمّل تكلفته؟”

الاعتراض الأحدّ: إذا كانت تكلفة فحص المُخرَج أعلى من تكلفة توليده، فإن نصيحة “تحقق قبل أن تثق” هي نصيحة بأن تكون أبطأ من الجميع، ومعظم القرارات الحقيقية لا تستطيع تحمّل هذه التكلفة. هذا الاعتراض يسيء فهم الوصفة مرتين.

أولًا، المعيار ليس هو التحقق نفسه. كتابة ما كنت ستلاحظه لو كان الادّعاء خاطئًا لا تكلّف أكثر من جملة واحدة، ولا تدفع تكلفة الفحص إلا على الادّعاءات الحاسمة. كما أن أمرًا مُلاحَظًا محدَّدًا سلفًا أرخص بكثير في فحصه من تدقيق مُخرَج طليق بشكل مفتوح دون حدود — فمعظم تكلفة التحقق اللاحق ليست في الفحص نفسه، بل في عدم معرفة من أين تبدأ، والمعيار هو ما يُختزل به فضاء البحث هذا.

ثانيًا، تخطّي التحقق لا يُلغي التكلفة — بل ينقلها إلى مرحلة لاحقة ويخفيها من السجلات. مطوّرو METR لم يتجنّبوا الدفع؛ بل ظهرت التكلفة في الوقت المقيس فعليًا بينما سجّل حسابهم الشعوري ربحًا. وهذه هي المقارنة التي يخطئ فيها الاعتراض. فالأمر ليس “التحقق مقابل المجانية”. بل هو تحقق الآن، مُسعَّر وظاهر، مقابل امتصاص الخطأ لاحقًا، غير مُسعَّر ومُسجَّل كأنه مكسب.

اكتب المراجِع بوصفه كودًا

لا يزال في إجراء السؤالين أعلاه نقطة ضعف واحدة: فهو يعتمد على أن يتذكّر أحدهم تطبيقه. وهذا هو الفشل نفسه معاد صياغته على مستوى أعلى. فالانضباط الذي لا يعيش إلا في ذهن شخص يتدهور تمامًا كما يتدهور الشعور بعدم الارتياح — حادًا عند القراءة الأولى المتأنية، ثم يتلاشى عند القراءة العاشرة الطليقة. الشكل الدائم لعبارة “حوّله إلى معيار قبول قابل للملاحظة” ليس عادة. إنه خطوة بناء (build step): سلّم المعيار لآلة، واجعل خط الأنابيب (pipeline) يرفض النجاح من دونه.

وهذا ليس افتراضًا نظريًا — إنه بالضبط ما ضبط نشر المقال الذي تقرؤه الآن. Reins إطار عمل مفتوح المصدر بُني لهذا الغرض بالتحديد: يتحوّل كل معيار قبول إلى quest، وهي قاعدة تُقيّم Fact{Where, Expected, Actual} وتُبلغ عن نجاح أو فشل دون أن تسأل أبدًا عمّا إذا كان النثر المحيط يبدو مقنعًا. فقبل أن توجد جملة واحدة من هذا المقال، كتب إنسان الادّعاءات المحدّدة المسموح للمقال بتقديمها؛ وفحصت آلة المسودة مقابل تلك القائمة؛ أما المُراجِع الذي تحقق من تغطية الادّعاءات فقد عمل من سياق منفصل عن السياق الذي كتب المسودة، لأن المراجعة الذاتية ليست مراجعة — وabloq، نظام الـquest الذي يعمل عليه هذا الموقع، يُرمِّز ذلك كقاعدة، لا كطلب.

هذا هو المضمون الفعلي لعبارة “لا تكتفِ بالشعور به”. ليس مزيدًا من اليقظة — بل موضع في خط الأنابيب لم تعد اليقظة فيه هي المُعتَمَد عليه. السؤالان من القسم السابق — ما الذي يجب أن يكون صحيحًا، وما الذي قد يدحضه — يتوقفان عن كونهما شيئًا عليك أن تتذكر طرحه بمجرد أن يصبحا قاعدة بوابة (gate rule) بدلًا من ملاحظة ذهنية. الـquest لا يتعب عند القراءة العاشرة.