2026-08-28·by Sijie Wang#fact#math

channel-capacity

信道容量(Claude Shannon,1948)

一条信道能够可靠传输多少信息的硬性上限。低于容量时,通过编码可以实现任意接近无差错的通信;高于容量时,无论编码多么巧妙,错误都不可避免。这就是有噪信道编码定理。

公式(一般形式): C = max_{p(x)} I(X;Y) —— 容量是输入与输出之间互信息在所有输入分布上取最大值。

公式(高斯信道): C = B * log2(1 + S/N)

  • C —— 容量,单位为每秒比特数
  • B —— 带宽(Hz)。
  • S/N —— 信噪功率比。
  • I(X;Y) —— 见 mutual-information

迁移。 每一个分发面——信息流、收件箱、搜索页——都是一条容量有限的信道,能否被看到的约束是 C,而不是你写了多少。S/N 这一项是决定性的:提高信号,或者降低噪声,都能提升送达读者的可靠吞吐量。这正是为什么 being-seen-reliably 是一个工程属性,而不是运气——你构建编码(格式、钩子、一致性)把自己的有效速率往平台的 C 上推。把信道灌到超出容量并不会增加落地的内容,只会提高错误率,读者会丢包(略读、取关)。发得更少,编码得更好。

Kin: shannon-entropy · mutual-information · redundancy · models · being-seen-reliably

about this entry

One of sijie's wiki entries. The AI on this site is grounded in the same corpus and answers in sijie's voice, with citations back to entries like this one — answering costs sijie money, so it waits behind a code: enter an access code →

channel-capacity