信道容量(Claude Shannon,1948)
一条信道能够可靠传输多少信息的硬性上限。低于容量时,通过编码可以实现任意接近无差错的通信;高于容量时,无论编码多么巧妙,错误都不可避免。这就是有噪信道编码定理。
公式(一般形式): C = max_{p(x)} I(X;Y) —— 容量是输入与输出之间互信息在所有输入分布上取最大值。
公式(高斯信道): C = B * log2(1 + S/N)
C—— 容量,单位为每秒比特数。B—— 带宽(Hz)。S/N—— 信噪功率比。I(X;Y)—— 见 mutual-information。
迁移。 每一个分发面——信息流、收件箱、搜索页——都是一条容量有限的信道,能否被看到的约束是 C,而不是你写了多少。S/N 这一项是决定性的:提高信号,或者降低噪声,都能提升送达读者的可靠吞吐量。这正是为什么 being-seen-reliably 是一个工程属性,而不是运气——你构建编码(格式、钩子、一致性)把自己的有效速率往平台的 C 上推。把信道灌到超出容量并不会增加落地的内容,只会提高错误率,读者会丢包(略读、取关)。发得更少,编码得更好。
Kin: shannon-entropy · mutual-information · redundancy · models · being-seen-reliably