论文研究word2vecACV:OOV语境含义的词向量生成模型.pdf

针对word2vec模型生成的词向量缺乏语境的多义性以及无法创建集外词（OOV）词向量的问题，引入相似信息与word2vec模型相结合，提出word2vec-ACV模型。该模型首先基于连续词袋（CBOW）和Hierarchicalsoftmax的word2vec模型训练出词向量矩阵即权重矩阵；然后将共现矩阵进行归一化处理得到平均上下文词向量，再将词向量组成平均上下文词向量矩阵；最后将平均上下文词向量矩阵与权重矩阵相乘得到词向量矩阵。为了能同时解决集外词及多义性问题，将平均上下文词向量分为全局平均上下文词向量（globalACV）和局部平均上下文词向量（localACV）两种，并对两者取权