信息编码

对数字的各种编码是等价的,实质是平衡编码复杂性和编码长度间的关系。

如何平衡可参考香农第一定律,最优解可参考哈夫曼编码,简化编码可参考矢量化

好编码的特点:

  1. 便于区分不同的信息,易辨识。
  2. 高效传递,有效性。

信息编码原理:易辨识、有效性。

有效编码:让理论最佳值在应用中落地。

小白鼠试毒,1/64,log(64).

速记