nlp入门基础之语言模型

nlp入门基础之语言模型 文章目录nlp入门基础之语言模型1. 简介2. n元语法 1. 简介 一段自然语言文本可以看做是一个离散时间序列s=ω1,ω2,⋯ ,ωTs=\omega_1,\omega_2,\cdots,\omega_Ts=ω1​,ω2​,⋯,ωT​,而一个语言模型的作用是构建这个时间序列的概率分布P(s)P(s)P(s)。概率计算公式可以表示为: KaTeX parse error: No such environment: align* at position 8: \begin{̲a̲l̲i̲g̲n̲*̲}̲ P(s)&=P(\omega... 假设词汇表大小为VVV,由上式