00 目录

162 个字 预计阅读时间 1 分钟

概念辨析

  • 各向异性: 在训练良好的理想向量空间中,词向量应该均匀地分布在整个空间中(各向同性) 但研究发现,预训练模型(如 BERT)生成的向量往往挤在一个狭窄的“锥形区域”里