我想使用word2vec的输出嵌入,如this paper (Improving document ranking with dual word embeddings)。如何在gensim word2vec中访问输出嵌入(输出向量)?
我知道输入矢量在syn0中,输出矢量在syn1和syn1neg如果负采样。
但是,当我计算最相似的输出向量,我得到了一些范围相同的结果,因为删除syn1或syn1neg。
这是我得到的。
IN[1]: model = Word2Vec.load('test_model.model')
IN[2]: model.most_similar([model.syn1neg[0]])
OUT[2]: [('of', -0.04402521997690201),
('has', -0.16387106478214264),
('in', -0.16650712490081787),
('is', -0.18117375671863556),
('by', -0.2527652978897095),
('was', -0.254993200302124),
('from', -0.2659570872783661),
('the', -0.26878535747528076),
('on', -0.27521973848342896),
('his', -0.2930959463119507)]
但是另一个syn1neg numpy向量已经是类似的输出。
IN[3]: model.most_similar([model.syn1neg[50]])
OUT[3]: [('of', -0.07884830236434937),
('has', -0.16942456364631653),
('the', -0.1771494299173355),
('his', -0.2043554037809372),
('is', -0.23265135288238525),
('in', -0.24725285172462463),
('by', -0.27772971987724304),
('was', -0.2979024648666382),
('time', -0.3547973036766052),
('he', -0.36455872654914856)]
我想获得输出numpy数组(负或不)在训练期间保留。
让我知道如何访问纯syn1或syn1neg或代码,或者一些word2vec模块可以获得输出嵌入。
你的代码奇妙地工作! 非常感谢你给我答案。 –