最大熵

信息：i(x) = -log(p(x)) 

概率p是对确定性的度量，那么信息就是对不确定性的度量。概率p是对确定性的度量，那么