2026-08-28·by Sijie Wang#cybernetics#theory

dynamics-to-a-fixed-point

为什么这一整套让人想起 ODE/PDE 优化器

这整座大厦(收敛、压缩、控制、Ashby、Bellman、搜索)之所以和 ODE/PDE 优化器一一对上,是因为它们是同一个属一个流动/迭代到不动点的系统,"收不收敛"是一个压缩/稳定性问题——而这正是 ODE 优化器本身

优化器就是离散化的 ODE

  • 梯度下降 = 对梯度流 dx/dt = −∇f 做前向 Euler;动量/Nesterov = 一个带阻尼的二阶 ODE(Su–Boyd–Candès)。
  • 优化 = 流向平衡点(∇f=0);收敛 = Lyapunov 稳定性 / 压缩——字面上就是我们的"收敛 = 向不动点压缩"(recursion-convergence-contraction)。

控制(Ashby、本线)本来就是 ODE/PDE

  • 被控对象 = ODE dx/dt=f(x,u);最优控制 = HJB PDE,其解是值函数 = Bellman 自指不动点的连续版。
  • Ashby 的超稳定性 = 动力系统流向可存活吸引子(本质变量保持在界内)= ODE 到平衡点(ashby)。

概念 1:1 对应

本线ODE/PDE 优化 / 控制
收敛 = 压缩Lyapunov 稳定性 / 梯度流到平衡点
可观测性天花板convergence-needs-an-observable-target可观测性(估不出不可观测的模态)
必要多样性(Ashby)可控性(能否把系统驱到任意处)
Simon–Ando 快慢分层simon-ando多尺度/刚性:multigrid、奇异摄动、均匀化
P×C 满足即止 / 提前停自适应步长 + 残差够小就停
回溯 / 功劳分配伴随方法 = 反向 ODE(backprop / neural ODE)
Bellman 自指HJB PDE

两个严格命中:可观测性天花板就是控制论的可观测性Simon–Ando 快慢分层就是 multigrid/刚性求解器利用的尺度分离。不是"让人想起"——是同一套数学换了衣服。

有启发的地方在差异

ODE 优化器的收敛是好结构白送的:光滑、(近)凸、可靠的梯度、压缩。而智能体世界离散、不光滑、非凸,它的"梯度"是 LLM 那不可靠的随机判断,还带无穷组合分支。

ODE 世界:压缩由数学给定。智能体世界:没有这种结构 → 收敛不是白送的 → 必须工程化制造(门、世界钉死、P×C、先验证再提交)。

同属,但它们从光滑性继承压缩,我们得制造压缩。整个 recursive-harness 脚手架就是:在一个毫无 ODE 良好结构的空间里,把 ODE 优化器免费得到的压缩亲手造出来。这就是它既像 ODE 优化器、又比 ODE 优化器难的原因。

about this entry

One of sijie's wiki entries. The AI on this site is grounded in the same corpus and answers in sijie's voice, with citations back to entries like this one — answering costs sijie money, so it waits behind a code: enter an access code →

dynamics-to-a-fixed-point