python - Gensim Word2vec 存储属性 syn0norm

Question

我正在尝试将 word2vec 用于一个项目，经过培训我得到:

INFO : not storing attribute syn0norm

有什么方法可以保存 syn0norm。

我该怎么做？

Answer 1

这很好——您不需要存储数组 syn0norm。

它是在 init_sims 过程中计算的，并且仅在需要时计算。训练后，它实际上没有定义，所以没有什么可训练的。

当您查询模型(例如 most_similar)时，它会调用 init_sims 检查是否定义了 syn0norm。如果不是，它会分配给它以下行:

self.syn0norm = (self.syn0 / sqrt((self.syn0 ** 2).sum(-1))[..., newaxis]).astype(REAL)

编辑:

在查看代码(对于其他事情)后，我看到您可以指定是否要保存 syn0norm —— 有一个默认设置为 ['syn0norm'] 的忽略设置，因此以下将保存所有内容:

In [239]: model.save('test',ignore=[])
2015-03-17 09:07:54,733 : INFO : saving Word2Vec object under test, separately None
2015-03-17 09:07:54,734 : INFO : storing numpy array 'syn0' to test.syn0.npy
2015-03-17 09:08:15,908 : INFO : storing numpy array 'table' to test.table.npy
2015-03-17 09:08:17,908 : INFO : storing numpy array 'syn1neg' to test.syn1neg.npy
2015-03-17 09:08:35,037 : INFO : storing numpy array 'syn1' to test.syn1.npy
2015-03-17 09:09:03,766 : INFO : storing numpy array 'syn0norm' to test.syn0norm.npy

问题是，计算通常比保存和重新加载花费的时间更少。