最近用到信息论的知识表较多，自己也总结下。
1 信息熵（entropy）
定义式：
阅读背景：
【基本概念】信息熵 条件熵 联合熵 左右熵 互信息
来源：互联网
分享到：
