词向量算术 · 语义的几何

词向量把语义变成可计算的几何关系。用一组示意性词向量:做 king − man + woman ≈ queen 这样的类比运算、看余弦相似度、在二维语义地图上看聚簇与平行四边形。对应第3章「01 词向量」。

向量类比:A − B + C ≈ ?
+ =
选好三个词,点「计算」求最近邻。
二维语义地图(按语义轴布局,非 PCA)

语义相近的词自然聚在一起;类比运算时会画出平行四边形——「king→queen」与「man→woman」是同一个方向的平移,这正是词向量能做类比的几何本质。

示意性向量(人工构造以凸显语义轴,非真实语料训练结果);余弦相似度、向量加减均为真实计算;二维地图按语义轴示意布局。数据取自《自然语言处理》第3章「词向量」。