recursive-harness

递归 Harness

上级:engineering

如何在一个 agent harness 里安全地获得非原始(深度无界)的递归——即便当今的模型在不受限制的一般递归下无法保证收敛。

背景(理论基底)

  • 递归会复合价值,但前提是它必须收敛recursion-convergence-contraction
  • 一般(非原始)递归是一次相变(Turing/Gödel)——而你迈不过去,因为模型无法保证收敛 → recursion-is-a-phase-transition
  • 收敛需要一个可观测/可辨识的目标,光有一个能干的模型是不够的 → convergence-needs-an-observable-target

构造方案(本子树)

良基(well-founded)递归 + 逐层门控,穿过这根针眼:

  1. pc-well-founded-recursion —— 在一个严格递减的度量(P×C)上递归;叶子 = 任何 P×C 可接受的子任务。用同一个度量同时保证终止收敛。
    • safe-recursion-theorem —— 内核的形状:良基度量 + 受门控的行动(包括拆分)+ 收缩式重组 ⟹ 终止、误差不超过 ε/(1−k) 的正确性、以及不超预算。

    • operationalizing-tolerances —— ε、α、k 落到地面究竟什么:验收检查集合、经变异测试校准过的误接受率、残差比、预算计数器;可理解性是那些旋钮背后的那一个旋钮。

    • root-protocol —— 顶层实际下发的是什么:一部能自我复制的宪法(SOLVE-or-SPLIT、四段式拆分、把 C 向下传递、声明自己的航向、失败要大声报出来);你全部的杠杆就是 S_root + C。

    • coupling-to-the-learner —— 真正承重的那些神经属性:ε 是一片能力地形(分解 = 投影到这片地形上),k = 反馈的可读性(检查要能发出梯度),叶子必须能从其注入内容中 PAC-可学。

    • giant-tasks-nonprimitive —— 为什么深度未知的任务会把你逼进 μ-递归,以及为什么再能干的 agent 也翻不过这堵墙:对角化不理会你有多聪明;这场博弈玩的是构造性的-∃(去证明),不是可判定的-∀;total ≠ r.e.,所以这部宪法永远不完备;唯一的逃生口是交互式扩展(Turing 的序数逻辑)。

    • coordinator-not-arbiter —— 失败由谁来处理:一个机械式内核(全局 no-goods + 溯源图 + 账本 + backjump 计算,是 DPLL(T) SAT 核心的同位素),绝不是一个常设的 LLM 仲裁者;语义诊断也只是又一个受门控的行动而已。

    • weak-auditor-by-design —— 为什么盯着一个强 actor 的审计者应该比它更弱(以 Anthropic 的 hook 审计者作为生产级先例):热路径经济学、任务收窄、绊线而非高墙、智能本身即攻击面、去相关、被校准过的怀疑;审计者的力量来自它所处的位置,而不是它的智商。

    • split-granularity-equilibrium —— 粒度困境:拆分风险上升,叶子风险下降 → 一条 U 形曲线(用 P×C 计价的偏差–方差权衡);以及能移动这条曲线的手段——局部粒度、先探测再拆分(冲突驱动的分解)、沿 Simon 缝合线切割(证书长度 = 切割质量)。

    • upward-reequilibration —— 当均衡本身也是坏的:节点发出一份不可行性证书,由祖先重新求均衡——Benders 可行性割(硬手段,重塑整棵树;no-goods ≡ 组合 Benders 割)+ 影子价格(软手段,在兄弟节点间重新分配 α/B);单调的割 + 不断耗竭的账本 = 不会振荡。

    • grounding-in-logprobs —— 那些希腊字母有了真实的数值:语义熵 → α̂ 预门控,由门控历史校准出的置信度 → α 账本,token 熵剖面 → 一份 ◇/□ 读数(用来核验高熵片段),困惑度 → ε 地形探测。度量负责提议,门控负责裁决。

软化版逻辑舶来品(每一条都是一个硬结果,被软化后带来一项 harness 收益)

  • blame-calculus —— 渐进类型:软/硬边界的跨越就是类型转换(cast)= 门控;"类型良好者不受责难"⟹ 位于机械式门控之后的子树可被证明不是罪魁祸首(精确到 α)。
  • spot-checkable-artifacts —— PCP 式的一手:要求产出物采用能放大错误的格式(贯穿其中的断言/类型/校验和),这样廉价的随机抽查就能获得全局覆盖。
  • paraconsistent-isolation —— 对一个由 LLM 喂养的信念库来说,ex falso(由假可推出一切)是致命的;按溯源锥把矛盾隔离开来;隔离(八项控制中的第 5 项)由此获得了自己的逻辑身份。
  • soft-identity-transfer —— 相等 → 距离(双模拟度量):no-goods/包含关系/价格可以带着置信度衰减,迁移到 ε-相似的上下文中;先检索、后生成;度量负责提议,门控负责裁决。
  • interface-p-belief —— 两将军问题:精确的共同知识不可达;共同 p-信念(p-belief)已经足够(Monderer–Samet)——这正是为什么书面的、两端都设门控的接口契约管用,而临场协商不管用。
  1. decompose-and-reassemble —— 中间层的 agent 把一个任务拆成近可分解的子任务,再重新组合;重组的接合点正是必须安放门控的地方。
  2. tacit-spec-as-spec-compression —— LLM 提供 spec 中写不出来的那部分;递归把无穷的案例空间压缩成一条有限的规则,把隐性风险集中到两处:派发处(危险)和叶子处(受 P×C 约束、安全)。
  3. world-choice-and-consistency-gate —— 你不需要确定性的品味;一次品味选择选中了一个可能世界,收敛是逐世界发生的,于是门控就变成了与所选世界的一致性(可核验),而不是与真理相符(不可核验)。
  4. drift-is-world-wandering —— 诊断:今天的 drift 现象 = 在互不相容的世界之间游荡(没有钉住一个世界 / 没有一致性门控 / 没有溯源)。修法就是上面这整套机制。
  5. csp-formalization —— 可计算的形式:一个动态 CSP(变量/值域/约束),坍缩 = 弧一致性,收敛 = spread×cost ≤ θ_PC,配有一个可运行的求解算法;LLM 从 3 个接口切入。
  6. deducible-not-known —— 第三重天花板:约束蕴含了答案,但推导出它是 NP-hard 的;□/◇ 只在传播可见的范围内成立;P×C 同时兼任演绎搜索的预算;LLM 就是应对这个难解演绎问题的启发式方法。
  7. conflict-learning-and-backjumping —— CDCL:走进死胡同 → backjump 回真正的祸首(也许是另一棵子树)+ 学到一条 no-good。赋值本身是非单调的,但学到的坍缩信息是单调的 → 正是这一点保证了收敛(这也是应对 deducible≠known 的偷懒解法,再加上对抗 drift 的溯源)。
  8. llm-as-fallible-theory-solver —— 这套 harness 就是 DPLL(T),LLM 充当一个会犯错的理论求解器;因此 LLM 必须为自己给出的不相容判决给出解释(吐出一个小的冲突),否则就没有短的 no-good,没有 backjump,也没有收敛。
  9. non-determinism-and-infinite-branching —— 但 agent 是非确定性的(no-goods 可能是的 → 软化成带权重、可修正的信念),也是无穷分支的(要采样,不要枚举 → 用 MCTS,不用 DFS/BFS;不追求完备,只追求 P×C 意义上的满意解)。归宿因此从 CDCL 转移到了 LLM 作为策略+价值网络的 MCTS + 软约束
  10. stages-gates-bound-the-search —— 焊接点:stages-and-gates 就是让那个不可靠、无穷的 MCTS 收敛的那副脚手架——一个门控是一次软→硬的验证式坍缩,把搜索重新钉回地面,阻止不可靠的误差跨阶段复合放大。把门控放在可机械核验的接缝处。(另外:它对应到那八项控制中的 6 项。)
  11. modal-status-labels —— 为什么 Kripke 语义值得占一席之地:不是作为逻辑本身,而是作为一套标注方案 确定 / 可能 / 条件式 + 置信度)。agent 的追溯要比 SAT 难得多(更丰富、也更不可靠的模态地形),所以每个事实的模态状态都必须显式标出才能正确回溯;可达性 = 那张告诉你该往哪回跳的依赖图。

一句话

一个安全的非原始递归 harness = P×C-良基递归(终止 + 收敛)×沿弱缝合线的分解/重组×逐节点的世界承诺 + 一致性门控(无需确定性的正确性)×人类作为世界的接受者。模型提供那份写不出来的 spec;结构 + P×C + 一致性使它保持收敛。

about this entry

One of sijie's wiki entries. The AI on this site is grounded in the same corpus and answers in sijie's voice, with citations back to entries like this one — answering costs sijie money, so it waits behind a code: enter an access code →