2026-09-21·par Sijie Wang#cybernetics#theory

dynamics-to-a-fixed-point

为什么这一整套让人想起 ODE/PDE 优化器

这整座大厦(收敛、压缩、控制、Ashby、Bellman、搜索)之所以和 ODE/PDE 优化器一一对上,是因为它们是同一个属:一个流动/迭代到不动点的系统,"收不收敛"是一个压缩/稳定性问题——而这正是 ODE 优化器本身。

优化器就是离散化的 ODE

  • 梯度下降 = 对梯度流 dx/dt = −∇f 做前向 Euler;动量/Nesterov = 一个带阻尼的二阶 ODE(Su–Boyd–Candès)。
  • 优化 = 流向平衡点(∇f=0);收敛 = Lyapunov 稳定性 / 压缩——字面上就是我们的"收敛 = 向不动点压缩"(recursion-convergence-contraction)。

控制(Ashby、本线)本来就是 ODE/PDE

  • 被控对象 = ODE dx/dt=f(x,u);最优控制 = HJB PDE,其解是值函数 = Bellman 自指不动点的连续版。
  • Ashby 的超稳定性 = 动力系统流向可存活吸引子(本质变量保持在界内)= ODE 到平衡点(ashby)。

概念 1:1 对应

本线ODE/PDE 优化 / 控制
收敛 = 压缩Lyapunov 稳定性 / 梯度流到平衡点
可观测性天花板(convergence-needs-an-observable-target)可观测性(估不出不可观测的模态)
必要多样性(Ashby)可控性(能否把系统驱到任意处)
Simon–Ando 快慢分层(simon-ando)多尺度/刚性:multigrid、奇异摄动、均匀化
P×C 满足即止 / 提前停自适应步长 + 残差够小就停
回溯 / 功劳分配伴随方法 = 反向 ODE(backprop / neural ODE)
Bellman 自指HJB PDE

两个严格命中:可观测性天花板就是控制论的可观测性;Simon–Ando 快慢分层就是 multigrid/刚性求解器利用的尺度分离。不是"让人想起"——是同一套数学换了衣服。

有启发的地方在差异

ODE 优化器的收敛是好结构白送的:光滑、(近)凸、可靠的梯度、压缩。而智能体世界离散、不光滑、非凸,它的"梯度"是 LLM 那不可靠的随机判断,还带无穷组合分支。

ODE 世界:压缩由数学给定。智能体世界:没有这种结构 → 收敛不是白送的 → 必须工程化制造(门、世界钉死、P×C、先验证再提交)。

同属,但它们从光滑性继承压缩,我们得制造压缩。整个 recursive-harness 脚手架就是:在一个毫无 ODE 良好结构的空间里,把 ODE 优化器免费得到的压缩亲手造出来。这就是它既像 ODE 优化器、又比 ODE 优化器难的原因。

à propos de cette entrée

L'une des entrées de wiki de sijie. L'IA sur ce site est fondée sur le même corpus et répond à la voix de sijie, avec citations revenant à des entrées comme celle-ci — répondre coûte argent à sijie, donc cela attend derrière un code : entrer un code d'accès →