香农第一定律

编码长度 ≥ 信息量 / 每一个编码的信息量

表示 100 内数字时的信息编码

2 进制时,每个符号代表的信息量为 log(2),最小编码长度为 log(100)/log(2),7。

10 进制时,每个符号代表的信息量为 log(10),最小编码长度为 log(100)/log(10),2。

100 进制时,每个符号代表的信息量为 log(100),最小编码长度为log(100)/log(100),1。