Spotlight1 一词多义（Polysemy）

在CS224n的一个Spotlight中提到了一词多义的问题，比如句子中出现了一个tie，到底是比赛平局，还是领带，还是绳子打结的意思？虽然说在w2v中相似的词被映射到相邻近的位置，但是一个词在词向量空间不会对应n多个向量，只有一个。经证明，一个词的词向量是所有义项的平均，也就是映射到了这些义项的中间。

那么问题来了，如何还原这些义项呢？

论文里说，义项是由以下函数进行的sparse coding：

这里的A就是词对应的某一义项的向量前边乘以一个系数，称为是hard sparsity contraint，这些参数可用标准k-SVD求出。