1. 概述
词汇表征是指我们在自然语言处理（NLP）中如何描述和处理词语的方法。在进行NLP监督机器学习任务时，我们以一句话为例：“I want a glass of orange ____”，我们要通过这句话中的其他单词来预测空白处的单词。这是一个典型的NLP问题。如果将其看作监督机器学习，我们的输入是上下文单词，而输出是要预测的目标单词，或者说目标单词的概率。为了解决这个问题，我们需要建立一个语言模型来学习输入和输出之间的映射关系。在深度学习中，这个模型通常是循环神经网络。词汇表征是指我们在自然语言处理（NLP）中如何描述和处理词语的方法。在进行NLP监督机
