GloVe: Global Vectors for Word Representation 阅读笔记

论文原文 GloVe: Global Vectors for Word Representation 论文信息 EMNLP2014 个人解读 Hytn Chen 更新时间 2020-02-15 词表示简介 词表示已成为所有基于深度学习的自然语言处理系统的重要组成部分,它们在固定长度的向量中编码单词,从而大幅提高神经网络处理文本数据的能力。有用独热表示(离散表示)来表示词,也有用稠密表示来表示词,词表示发展的历史阶段经历基于one-hot的词表示,基于共现矩阵的词表示以及基于神经网络的词表示。 词表示相关方法 基于共现矩阵的词表示 构造这样一个矩阵,矩阵每行和每列都对应文本