2026-08-28·por Sijie Wang#fact#math

channel-capacity

信道容量(Claude Shannon,1948)

一条信道能够可靠传输多少信息的硬性上限。低于容量时,通过编码可以实现任意接近无差错的通信;高于容量时,无论编码多么巧妙,错误都不可避免。这就是有噪信道编码定理。

公式(一般形式): C = max_{p(x)} I(X;Y) —— 容量是输入与输出之间互信息在所有输入分布上取最大值。

公式(高斯信道): C = B * log2(1 + S/N)

  • C —— 容量,单位为每秒比特数。
  • B —— 带宽(Hz)。
  • S/N —— 信噪功率比。
  • I(X;Y) —— 见 mutual-information。

迁移。 每一个分发面——信息流、收件箱、搜索页——都是一条容量有限的信道,能否被看到的约束是 C,而不是你写了多少。S/N 这一项是决定性的:提高信号,或者降低噪声,都能提升送达读者的可靠吞吐量。这正是为什么 being-seen-reliably 是一个工程属性,而不是运气——你构建编码(格式、钩子、一致性)把自己的有效速率往平台的 C 上推。把信道灌到超出容量并不会增加落地的内容,只会提高错误率,读者会丢包(略读、取关)。发得更少,编码得更好。

Kin: shannon-entropy · mutual-information · redundancy · models · being-seen-reliably

sobre esta entrada

Una de las entradas de wiki de sijie. La IA en este sitio está anclada en el mismo corpus y responde en la voz de sijie, con citas que vuelven a entradas como esta — responder le cuesta dinero a sijie, así que espera detrás de un código: ingrese código de acceso →