表征工程中哪里用到内积 :内积vs余弦相似度--谁更胜一筹?
表征工程中哪里用到内积
目录
-
- 表征工程中哪里用到内积
- 余弦相似度和内积区别:是否归一化
- 余弦相似度和内积哪个更好
- 如果没有归一化,内积和余弦相似度哪个更好
其在论文中的应用主要体现在表示读取(Representation Reading)环节,具体如下:
在表示读取中,通过线性人工断层扫描(LAT)提取到“读取向量(reading vector)”后,为了基于该向量对模型的神经活动进行预测或分类,会计算测试样本的隐藏状态表示与读取向量之间的点积。
例如,在对真实性(truthfulness)、效用(utility)等概念的分析中,通过这种点积运算得到的分数可作为判断依据,用于区分不同概念相关的样本,如辨别真实与虚假陈述、高效用与低效用场景等。
这种点积运算的核心作用是衡量两个向量在方向上的相似性,当点积结果较大时,说明测试样本的表示与目标概念的读取向量更契合,从而为后续的监测、分类等任务提供量化依据。
余弦相似度和内积区别:是否归一化
余弦相似度和内积哪个更好
根据提供的论文内容,内积(点积)主要用于表示读取(Representation Reading)中“读取向量(reading vecto