coupling-to-the-learner

把 harness 耦合到神经学习器

上级: recursive-harness

safe-recursion-theorem 把执行者当作一个黑箱式的、带 ε 误差的求解器来处理。但执行者其实是一个神经学习器,它的三个具体属性是承重的——忽略它们,这套理论就只剩一个空壳。

1. ε 不是常数——它是一片地形

神经学习器的误差极不均匀:在训练分布附近很小,一旦偏离就会急剧扩大。这才是分解之所以有效的真正原因。 如果 ε 是均匀的,拆分只是把一个大误差按同样的比率换成 n 个小误差,没有实质收益。分解之所以有用,是因为它是一次坐标变换——把一个陌生的任务重新投影回模型的高密度流形上——每一块都落进了低 ε 区域(体量像样板代码、形状像惯用语的叶子任务)。由此得到的推论:叶子标准不是"token 数少",而是"足够熟悉";度量 P×C 其实是相对于模型的能力地形而言的 P×C;一次拆分如果产出了不熟悉的碎片,即便每一块都更小,情况也已经变得更糟。

2. 修复循环是伪 SGD——所以 k 就是反馈的可读性

一个 gate 的失败信号就是学习器的梯度:误差信号 → 调整 → 重新评估,这正是 SGD 的形状。因此 inexact-contraction 中的收缩因子 k 并不是模型单独的属性,而是(模型 × 反馈可读性)这一对的属性:一个只会说"FAIL"的检查会得到 k ≈ 1(学习器只能盲目摸索);一个能定位错误的检查(哪条断言、哪个输入、预期值与实际值)会得到 k ≪ 1。由此得出的设计原则:检查应该给出梯度,而不是给出裁决——错误信息要写给学习器看。这一点细化了 recursion-convergence-contraction 中"验证带宽 = k"的说法:带宽不仅取决于信号是否触发,还取决于这个信号有多可操作

3. 叶子标准是 PAC 式的:子任务的 spec 必须能从它拿到的注入中学出来

阶段注入(目标 + 上下文 + playbook,见 stage-anatomy)就是一个样本;上下文窗口就是样本预算 m;子任务的行为就是学习器要拟合的假设。按 pac / vc-dimension 的逻辑:如果子任务 spec 相对于 m 个 token 的注入所能钉死的内容而言过于复杂,子任务就会用自己的先验去填补空缺——也就是 tacit-spec-as-spec-compression 所说的那种幻觉出来的 spec、那种失效模式。于是分解的精确停止规则就是:拆分,直到每个子任务的 spec 都能从你负担得起的注入中学出来为止。 相对于 spec 的复杂度,注入的上下文太少 = 一个学不出来的叶子 = 必然的 tacit drift。

两个次要的耦合

  • 去相关: 同一个模型意味着相关的 α(见 honest-caveats);集成方案的补救办法——在冗余检查之间变换温度、提示词、模型族——能为并集界(union bound)买回一部分独立性。
  • 自洽性作为廉价的预筛: 让学习器采样 n 次并测量一致程度;一致程度低就意味着方差高,应在花费真正的验证预算之前,先转去更强的 gate 或做进一步拆分。

harness 不是包裹在黑箱外面的脚手架——它是一个包裹在学习器外面的控制回路,它的三个耦合(能力地形、梯度可读的反馈、可学习的叶子)正是这套理论不再是空谈的地方。