nltk - NLTK 感知器标记器的标记集是什么？

Question

NLTK 感知器标记器的标记集是什么？预训练模型使用的语料库是什么？

我试图从NLTK网站上找到官方信息。但他们没有那个。

Answer 1

来自 https://github.com/nltk/nltk/pull/1143 ，我们看到它是来自 https://spacy.io/blog/part-of-speech-pos-tagger-in-python 的端口

训练好的标签集 tagdict包括以下标签:

>>> from nltk.tag import PerceptronTagger
>>> tagger = PerceptronTagger()
>>> set(tagger.tagdict.values())
set(['PRP$', 'VBG', 'VBD', '``', 'VBN', "''", 'VBP', 'WDT', 'JJ', 'WP', 'VBZ', 'DT', '#', '$', 'NN', ')', '(', ',', '.', 'TO', 'PRP', 'RB', ':', 'NNS', 'NNP', 'VB', 'WRB', 'CC', 'CD', 'EX', 'IN', 'WP$', 'MD', 'JJS', 'JJR'])

完整的标签集是:

>>> sorted(tagger.classes)
['#', '$', "''", '(', ')', ',', '.', ':', 'CC', 'CD', 'DT', 'EX', 'FW', 'IN', 'JJ', 'JJR', 'JJS', 'LS', 'MD', 'NN', 'NNP', 'NNPS', 'NNS', 'PDT', 'POS', 'PRP', 'PRP$', 'RB', 'RBR', 'RBS', 'RP', 'SYM', 'TO', 'UH', 'VB', 'VBD', 'VBG', 'VBN', 'VBP', 'VBZ', 'WDT', 'WP', 'WP$', 'WRB', '``']

这是 Penn Treebank 标签集来自:https://www.ling.upenn.edu/courses/Fall_2003/ling001/penn_treebank_pos.html