CS224n 斯坦福深度自然语言处理课笔记 Lecture02—词向量表示

课程概要 1.词义 2.Word2vec介绍(学习词汇向量模型(2013年提出)) (当然还有别的方法进行词汇表征(后续会提到)) 3.Word2vec目标函数的梯度推导 4.目标函数优化:梯度下降法 一、词义 定义:meaning:(Webster dictionary)用单词、短语等表达的想法;人们想要通过单词、符号等表达想法 某种意义上来说,这非常接近于语言学上最常理解的meaning的含义 利用分类资源,例如处理词义的方法是WordNet WordNet:意义相近的单词组成一个同义词组(Synset),而同义词组之间则以上-下义,同义-反义,整体-部分以及蕴含等语义关系连接在一起,构成