RoBERTa_embeddings:从用于特定词汇的换面器RoBERTa模型中提取静态上下文嵌入 源码

RoBERTa_embeddings 从用于特定词汇表的换脸器RoBERTa模型中提取静态上下文嵌入。 要了解有关静态和动态词嵌入的更多信息,请查看或Towards Data Science文章。 如果您想编写自己的代码来提取BERT中的静态嵌入,请查看这篇文章。 安装 安装。 他们的指示包括有关建议安装到Python虚拟环境中的指导。 建立精细的RoBERTa模型的一种简单方法是遵循他们的,并对其进行了修改以满足您的需求。 如果要使用示例,请确保从源代码安装。 假设您现在拥有一个已激活的虚拟环境,则可以通过执行(从RoBERTa_embeddings目录中)执行以下操作来安装所有其他必