信息量

信息量与不确定性有关，众人皆知的信息是没有信息量的。

开关电路，用很少的信息（1bit）驱动很大的能量。

不把鸡蛋放在一个篮子里的策略，可以避免因信息缺失导致的灾难性后果。

香农告诉大家，信息可以衡量，但不是用重要性，而是用信息量，单位是「比特」。

信息源：一个充满可能性的系统。

信息熵：信息源里的不确定性，「信息」就是用来消除这些不确定性的。

信息量：消除不确定性需要的「信息量」等于系统的「信息熵」。

你可以把一个充满可能性的系统视为一个「信息源」，它里面的不确定性叫做「信息熵」，而「信息」就是用来消除这些不确定性的，所以搞清楚黑盒子里是怎么一回事，需要的「信息量」就等于黑盒子里的「信息熵」。

信息量的大小不在于长短，而在于开创多少新知。

如果你和一个特别会玩锤子、剪子、布游戏的人玩这个游戏，你最好的策略是什么呢？

让自己的输出尽可能随机化，保持最大信息熵。

二分法的例子。