谷歌LaMDA神经语言模型在对话应用中的应用和优势
谷歌LaMDA是一种专门用于对话应用的基于Transformer的神经语言模型。它拥有高达137B个参数,并在公开的对话数据和网络文本中进行了1.56T个单词的预训练。尽管仅仅通过模型的扩展可以提高质量,但在安全性和事实支持方面的改进较少。我们展示了使用注释数据进行微调,并使模型能够查询外部知识来源可以带来显著的改进。
下载地址
用户评论