利用信息论的方法可以进行一些简单的自然语言处理
比如利用相对熵进行分类或者是利用相对熵来衡量两个随机分布的差距，当两个随机分布相同时，其相对熵为0.当两个随机分布的差别增加时，器相对熵也增加。我们下面的实验是为了横量概率分布的差异。 比如利用相对熵进行分类或者
阅读背景：
相对熵（relative entropy或 Kullback-Leibler divergence,KL距离）的java实现（一）
来源：互联网
分享到：
