冗余度（克劳德·香农，1948）

一条消息中可被预测的那部分——它由编码的约束决定，而不是由新的选择决定。冗余不是浪费：正因为有冗余，接收者才能从剩余部分重建被丢失或损坏的内容，这正是消息得以扛住噪声的原因。

公式： R = 1 - H / H_max

H ——信源每个符号的实际熵（见 shannon-entropy）。
H_max = log2(N) ——若全部 N 个符号等概率且相互独立时的熵（可能的最大值）。
R 的取值范围从 0（无冗余）到 1（完全可预测）。书面英语大致落在 R ~ 0.5-0.75。

迁移。 零冗余的文字在理论上信息密度最大，实践中却几乎不可读——一个错字、一行被略读，意义就崩塌了，因为没有任何东西能让读者把它找补回来。真实的信道是有噪声的（读者会跳读、被打断、半心半意地读），所以"被读懂"这件事本身就需要刻意工程出来的冗余：复述、跟在论断后面的例子、总结句、平行结构。这也是为什么 closure（闭合）与重复是在帮助理解，而不是在侮辱读者的智商。手艺上的问题从来不是"要不要冗余"，而是把冗余花在哪里——把连接组织垫厚，好让承重的那些意外能完整落地。那些把一切都压缩到最简的agent，写出来的东西又脆又难以跳读。