next_word_prediction:使用变压器预测下一个单词并预测单词 源码

下一个单词的预测 使用转换器模型的简单应用程序可以预测句子中的下一个单词或被屏蔽的单词。 目的是演示和比较最新可用的主要模型。 第一次加载需要很长时间,因为该应用程序将下载所有模型。除了正在运行的6个模型外,即使在CPU中,推理时间也是可以接受的。 应用 该应用程序实现同一任务的两种变体(预测令牌)。第一个考虑句法是在句子的末尾,模拟对句子的下一个单词的预测。 第二个变体是必需的,要在模型中用来预测单词的地方包含一个标记。 跑步 cd web-app python app.py 打开浏览器