LIMIT BERT:在《 EMNLP 2020调查结果》中发布的“ LIMIT BERT:语言学告知的多任务BERT”的源代码 源码

LIMIT-BERT 内容 要求 Python 3.6或更高版本。 Cython 0.25.2或任何兼容版本。 1.0.0+。 。 在开始之前,请在EVALB/目录中运行make来编译evalb可执行文件。 这将从Python中调用进行评估。 PyTorch 1.0.0+或任何兼容版本。 预训练模型(PyTorch) 可以从Google云端硬盘下载以下经过预先训练的模型: :PyTorch版本,与BERT-Large-WWM设置相同,使用加载模型。 训练 要训​​练LIMIT-BERT,只需运行: sh run_limitbert.sh 评估说明 在设置模型路径后进行测试