递归 Harness
上级:engineering
如何在一个 agent harness 里安全地获得非原始(深度无界)的递归——即便当今的模型在不受限制的一般递归下无法保证收敛。
背景(理论基底)
- 递归会复合价值,但前提是它必须收敛 → recursion-convergence-contraction
- 一般(非原始)递归是一次相变(Turing/Gödel)——而你迈不过去,因为模型无法保证收敛 → recursion-is-a-phase-transition
- 收敛需要一个可观测/可辨识的目标,光有一个能干的模型是不够的 → convergence-needs-an-observable-target
构造方案(本子树)
用良基(well-founded)递归 + 逐层门控,穿过这根针眼:
- pc-well-founded-recursion —— 在一个严格递减的度量(
P×C)上递归;叶子 = 任何P×C可接受的子任务。用同一个度量同时保证终止和收敛。-
safe-recursion-theorem —— 内核的形状:良基度量 + 受门控的行动(包括拆分)+ 收缩式重组 ⟹ 终止、误差不超过
ε/(1−k)的正确性、以及不超预算。 -
operationalizing-tolerances —— ε、α、k 落到地面究竟是什么:验收检查集合、经变异测试校准过的误接受率、残差比、预算计数器;可理解性是那些旋钮背后的那一个旋钮。
-
root-protocol —— 顶层实际下发的是什么:一部能自我复制的宪法(SOLVE-or-SPLIT、四段式拆分、把 C 向下传递、声明自己的航向、失败要大声报出来);你全部的杠杆就是
S_root+ C。 -
coupling-to-the-learner —— 真正承重的那些神经属性:ε 是一片能力地形(分解 = 投影到这片地形上),k = 反馈的可读性(检查要能发出梯度),叶子必须能从其注入内容中 PAC-可学。
-
giant-tasks-nonprimitive —— 为什么深度未知的任务会把你逼进 μ-递归,以及为什么再能干的 agent 也翻不过这堵墙:对角化不理会你有多聪明;这场博弈玩的是构造性的-∃(去证明),不是可判定的-∀;total ≠ r.e.,所以这部宪法永远不完备;唯一的逃生口是交互式扩展(Turing 的序数逻辑)。
-
coordinator-not-arbiter —— 失败由谁来处理:一个机械式内核(全局 no-goods + 溯源图 + 账本 + backjump 计算,是 DPLL(T) SAT 核心的同位素),绝不是一个常设的 LLM 仲裁者;语义诊断也只是又一个受门控的行动而已。
-
weak-auditor-by-design —— 为什么盯着一个强 actor 的审计者应该比它更弱(以 Anthropic 的 hook 审计者作为生产级先例):热路径经济学、任务收窄、绊线而非高墙、智能本身即攻击面、去相关、被校准过的怀疑;审计者的力量来自它所处的位置,而不是它的智商。
-
split-granularity-equilibrium —— 粒度困境:拆分风险上升,叶子风险下降 → 一条 U 形曲线(用 P×C 计价的偏差–方差权衡);以及能移动这条曲线的手段——局部粒度、先探测再拆分(冲突驱动的分解)、沿 Simon 缝合线切割(证书长度 = 切割质量)。
-
upward-reequilibration —— 当均衡本身也是坏的:节点发出一份不可行性证书,由祖先重新求均衡——Benders 可行性割(硬手段,重塑整棵树;no-goods ≡ 组合 Benders 割)+ 影子价格(软手段,在兄弟节点间重新分配 α/B);单调的割 + 不断耗竭的账本 = 不会振荡。
-
grounding-in-logprobs —— 那些希腊字母有了真实的数值:语义熵 → α̂ 预门控,由门控历史校准出的置信度 → α 账本,token 熵剖面 → 一份 ◇/□ 读数(用来核验高熵片段),困惑度 → ε 地形探测。度量负责提议,门控负责裁决。
-
软化版逻辑舶来品(每一条都是一个硬结果,被软化后带来一项 harness 收益)
- blame-calculus —— 渐进类型:软/硬边界的跨越就是类型转换(cast)= 门控;"类型良好者不受责难"⟹ 位于机械式门控之后的子树可被证明不是罪魁祸首(精确到 α)。
- spot-checkable-artifacts —— PCP 式的一手:要求产出物采用能放大错误的格式(贯穿其中的断言/类型/校验和),这样廉价的随机抽查就能获得全局覆盖。
- paraconsistent-isolation —— 对一个由 LLM 喂养的信念库来说,ex falso(由假可推出一切)是致命的;按溯源锥把矛盾隔离开来;隔离(八项控制中的第 5 项)由此获得了自己的逻辑身份。
- soft-identity-transfer —— 相等 → 距离(双模拟度量):no-goods/包含关系/价格可以带着置信度衰减,迁移到 ε-相似的上下文中;先检索、后生成;度量负责提议,门控负责裁决。
- interface-p-belief —— 两将军问题:精确的共同知识不可达;共同 p-信念(p-belief)已经足够(Monderer–Samet)——这正是为什么书面的、两端都设门控的接口契约管用,而临场协商不管用。
- decompose-and-reassemble —— 中间层的 agent 把一个任务拆成近可分解的子任务,再重新组合;重组的接合点正是必须安放门控的地方。
- tacit-spec-as-spec-compression —— LLM 提供 spec 中写不出来的那部分;递归把无穷的案例空间压缩成一条有限的规则,把隐性风险集中到两处:派发处(危险)和叶子处(受
P×C约束、安全)。 - world-choice-and-consistency-gate —— 你不需要确定性的品味;一次品味选择选中了一个可能世界,收敛是逐世界发生的,于是门控就变成了与所选世界的一致性(可核验),而不是与真理相符(不可核验)。
- drift-is-world-wandering —— 诊断:今天的 drift 现象 = 在互不相容的世界之间游荡(没有钉住一个世界 / 没有一致性门控 / 没有溯源)。修法就是上面这整套机制。
- csp-formalization —— 可计算的形式:一个动态 CSP(变量/值域/约束),坍缩 = 弧一致性,收敛 =
spread×cost ≤ θ_PC,配有一个可运行的求解算法;LLM 从 3 个接口切入。 - deducible-not-known —— 第三重天花板:约束蕴含了答案,但推导出它是 NP-hard 的;
□/◇只在传播可见的范围内成立;P×C同时兼任演绎搜索的预算;LLM 就是应对这个难解演绎问题的启发式方法。 - conflict-learning-and-backjumping —— CDCL:走进死胡同 → backjump 回真正的祸首(也许是另一棵子树)+ 学到一条 no-good。赋值本身是非单调的,但学到的坍缩信息是单调的 → 正是这一点保证了收敛(这也是应对
deducible≠known的偷懒解法,再加上对抗 drift 的溯源)。 - llm-as-fallible-theory-solver —— 这套 harness 就是 DPLL(T),LLM 充当一个会犯错的理论求解器;因此 LLM 必须为自己给出的不相容判决给出解释(吐出一个小的冲突),否则就没有短的 no-good,没有 backjump,也没有收敛。
- non-determinism-and-infinite-branching —— 但 agent 是非确定性的(no-goods 可能是假的 → 软化成带权重、可修正的信念),也是无穷分支的(要采样,不要枚举 → 用 MCTS,不用 DFS/BFS;不追求完备,只追求
P×C意义上的满意解)。归宿因此从 CDCL 转移到了 LLM 作为策略+价值网络的 MCTS + 软约束。 - stages-gates-bound-the-search —— 焊接点:stages-and-gates 就是让那个不可靠、无穷的 MCTS 收敛的那副脚手架——一个门控是一次软→硬的验证式坍缩,把搜索重新钉回地面,阻止不可靠的误差跨阶段复合放大。把门控放在可机械核验的接缝处。(另外:它对应到那八项控制中的 6 项。)
- modal-status-labels —— 为什么 Kripke 语义值得占一席之地:不是作为逻辑本身,而是作为一套标注方案(
□确定 /◇可能 / 条件式 + 置信度)。agent 的追溯要比 SAT 难得多(更丰富、也更不可靠的模态地形),所以每个事实的模态状态都必须显式标出才能正确回溯;可达性 = 那张告诉你该往哪回跳的依赖图。
一句话
一个安全的非原始递归 harness = P×C-良基递归(终止 + 收敛)×沿弱缝合线的分解/重组×逐节点的世界承诺 + 一致性门控(无需确定性的正确性)×人类作为世界的接受者。模型提供那份写不出来的 spec;结构 + P×C + 一致性使它保持收敛。