1. 首页
  2. 编程语言
  3. Python
  4. Pytorch BertModel的使用说明

Pytorch BertModel的使用说明

上传者: 2021-07-03 13:12:51上传 PDF文件 87.56 KB 热度 8次

输出是一个tuple,tuple的第一个值是bert的最后一个transformer层的hidden_state,size是[batch_size, seq_length, hidden_size],也就是bert最后的输出,再用于下游的任务。添加atten_mask的方法:其中101是[CLS],102是[SEP],0是[PAD]

下载地址
用户评论