NLTK感知器标记器的标记集是什么？

Question

NLTK感知器标记器的标记集是什么？用于预训练模型的语料库是什么？

我试图从NLTK网站上找到官方信息。但他们没有那个。

Answer 1

从https://github.com/nltk/nltk/pull/1143，我们看到它从https://spacy.io/blog/part-of-speech-pos-tagger-in-python

端口在训练的tagdict的标记集包括以下标签：

>>> from nltk.tag import PerceptronTagger 
>>> tagger = PerceptronTagger() 
>>> set(tagger.tagdict.values()) 
set(['PRP$', 'VBG', 'VBD', '``', 'VBN', "''", 'VBP', 'WDT', 'JJ', 'WP', 'VBZ', 'DT', '#', '$', 'NN', ')', '(', ',', '.', 'TO', 'PRP', 'RB', ':', 'NNS', 'NNP', 'VB', 'WRB', 'CC', 'CD', 'EX', 'IN', 'WP$', 'MD', 'JJS', 'JJR']) 

完整的标记集是：

>>> sorted(tagger.classes) 
['#', '$', "''", '(', ')', ',', '.', ':', 'CC', 'CD', 'DT', 'EX', 'FW', 'IN', 'JJ', 'JJR', 'JJS', 'LS', 'MD', 'NN', 'NNP', 'NNPS', 'NNS', 'PDT', 'POS', 'PRP', 'PRP$', 'RB', 'RBR', 'RBS', 'RP', 'SYM', 'TO', 'UH', 'VB', 'VBD', 'VBG', 'VBN', 'VBP', 'VBZ', 'WDT', 'WP', 'WP$', 'WRB', '``'] 

这是Penn Treebank Tagset来自：https://www.ling.upenn.edu/courses/Fall_2003/ling001/penn_treebank_pos.html