阅读背景:

逆向最大匹配分词算法

来源:互联网 

目前对中文分词有两个方向,其中一个是利用概率的思想对文章分词。也就是如果两个字,一起出现的频率很高的话,我们可以假设这两个字是一个词。这里可以用一个公式衡量:M(A,B)=P(AB)/P(A)P(B),其中A表示一个字,B表示一个字,P(AB)表示AB相邻出现的概率,P(A)表示A在这篇文章中的频度,P(B)表示B在这篇文章中的频度。用概率分词的好处是不需要借助词典的帮助,坏处是算法比较麻烦,效率不高,也存在一定的出错率。目前对中文分词有两个方向,其中一个是利用概率的思想对文章分词。也就是如果两个字,一起出现




你的当前访问异常,请进行认证后继续阅读剩余内容。

分享到: