阅读背景:

《实战Google深度学习框架》之RNN学习笔记2 LSTM对PTB数据集的建模

来源:互联网 
!-- flowchart 箭头图标 勿删 --

  建立语言模型的目的是为了计算一个句子出现的概率,利用语言模型,可以确定哪个单词序列出现的可能性更大,或者给定若干个单词,预测下一个最可能出现的词语。语言模型的常用评价指标是复杂度,刻画的是通过某一个语言模型估计的一句话出现的概率。例如当已经知道(w1,w2,w3,…,w(m)这句话出现在语料库之中,那么通过语言模型得到这句话的概率越高越好,也就是复杂度越小越好。复杂度perplexity表示的概念是平均分支系数,即模型预测下一个词时的平均可选择数量。计算perplexity值的公式如下:  建立语言模型的目




你的当前访问异常,请进行认证后继续阅读剩余内容。

分享到: