AI能读懂代码的结构,却无法判断那是一个决策还是一个临时补丁。所以复制得越多,缺陷就越能积累出虚假的权威。打破这个循环的,不是更大的模型,而是人的一句反问。
同一个模型在网页聊天中产生幻觉,却在编程Agent中一次性交付200行功能。不是因为模型变了——而是topology变了。生成可以是概率性的。验证必须是确定性的。
同一个模型,有时止步于40个,有时完成全部527个。差异不在模型,而在反馈结构。LLM的性能更大程度上取决于它所处的反馈循环有多快、多确定,而非模型本身的能力。