我有一个 NLP 项目,其中当前由 w2v
编码单词集合,以与其他单词集合进行比较。我想尝试 transformers
,它可以提供比 w2v
更好的编码。但是,由于数据的性质,我根本不需要位置编码(因为单词的集合没有顺序)。 是否存在不进行位置编码的预训练变压器
?
最佳答案
您可以使用 get_input_embeddings() 访问相应的嵌入层。请看一下 roberta 的示例:
import torch
from transformers import RobertaTokenizerFast, RobertaModel
t = RobertaTokenizerFast.from_pretrained('roberta-base')
m = RobertaModel.from_pretrained('roberta-base')
e = m.get_input_embeddings()
myWordCollection = ['This', 'That', 'stackoverflow', 'huggingface']
#some of the words will consist of several tokens (i.e. several vectors)
i = t(myWordCollection, return_attention_mask=False, add_special_tokens=False)
#a dictionary with words:vectors for each token
o = {word:e(torch.tensor(ids)) for word, ids in zip(myWordCollection, i.input_ids)}
关于nlp - 需要 "bag of words"类型的变压器,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/67047188/