一、余弦距离
1.1 余弦相似度
余弦相似度是用来衡量两个非零向量之间的夹角的余弦值。对于两个向量 A A A 和 B B B,余弦相似度的计算公式为:
C o s i n e S i m i l a r i t y ( A , B ) = A ⋅ B ∥ A ∥ ∥ B ∥ {\rm{Cosine Similarity }}\left( {
{\rm{A,B}}} \right) = \frac{
{A \cdot B}}{
{\parallel A\parallel \parallel B\parallel }} CosineSimilarity(A,B)=∥A∥∥B∥A⋅B
1.2 余弦距离(Cosine Distance)
余弦距离是余弦相似度的补数,即:
C o s i n e D i s t a n c e ( A , B ) = 1 − C o s i n e S i m i l a r i t y ( A , B ) {\rm{Cosine Distance }}\left( {
{\rm{A,B}}} \right) = 1 – {\rm{Cosine Similarity }}\left( {
{\rm{A,B}}} \right) CosineDistance(A,B)=1−CosineSimilarity(A,B)
余弦距离的值范围在0到2之间,越接近0表示两个向量越相似,越接近2表示越不相似。
二、马氏距离
马氏距离是一种测量两个点之间距离的方法,不同于欧几里得距离,它考虑了数据的协方差。
定义:设 x x x和 y y y是从均值为 μ \mu μ,协方差矩阵为 Σ \Sigma Σ(>0)的样本总体 π \pi π中抽取的两个样品( p p p维),则:
x x x到 y y y之间的平方马氏距离定义为:
d 2 ( x , y ) = ( x − y ) T Σ − 1 ( x − y ) {d^2}(x,y) = {(x – y)^T}{
{\bf{\Sigma }}^{ – 1}}(x – y) d2(x,y)=(x−y)TΣ−1(x−y)
若协方差是单位矩阵,即:所有变量之间的协方差都为零,那么数据的各个特征(维度)是相互独立的,且每个特征的方差都等于1。在这种情况下,马氏距离可以简化为欧式距离,因为协方差矩阵的逆矩阵就是单位矩阵。
2.1 方差(Variance)
方差是用来度量单一随机变量的分散程度或波动性的统计量。衡量数据点与数据集均值之间的离散程度。方差越大,数据点越分散,对于随机变量 x x x,其方差计算如下:
V a r ( X ) = σ x 2 = 1 n − 1 ∑ i = 1 n ( x i − x ˉ ) 2 {\rm{Var}}(X) = \sigma _x^2 = \frac{1}{
{n – 1}}\sum_{i=1}^n (x_i – \bar{x})^2 Var(X)=σx2=n−11i=1∑n(xi−xˉ)2
在计算样本方差时,我们通常将分母中的除数设为 ( n − 1 ) (n – 1) (n−1) 而不是 n n n。这是因为计算样本方差的目的是估计总体方差,而在估计过程中需要考虑样本的大小对估计精度的影响。这种校正的目的是为了更准确地估计总体方差,因为样本方差通常会略微低估总体方差。
当将除数设为 ( n − 1 ) (n – 1) (n−1) 时,称为自由度调整。自由度调整的原因在于样本中的数据点之间并不是完全独立的,而是相互关联的。如果我们仅将除数设为 n n n,那么样本方差可能会过低估计总体方差,因为它没有考虑到样本中的这种关联性。
自由度调整考虑了这种关联性,通过将除数设为 ( n − 1 ) (n – 1) (n−1) 来更准确地估计总体方差。这意味着我们不会过于乐观地估计总体方差,从而更好地反映了总体的分散性。这对于统计推断和参数估计非常重要,因为我们希望我们的估计尽可能接近总体参数的真实值。
总结一下,自由度调整的目的是减小样本方差的偏差,使其更接近总体方差的真实值,从而提高统计估计的准确性。这是统计学中常见的惯例。
2.2 协方差(Covariance)
协方差用于度量两个随机变量之间的线性关系,即它度量这两个变量如何一起变化。对于两个随机变量 X X X 和 Y Y Y,它们的协方差可以用以下公式计算:
σ ( x , y ) = 1 n − 1 ∑ i = 1 n ( x i − x ˉ ) ( y i − y ˉ ) \sigma(x, y) = \frac{1}{
{n – 1}} \sum_{i=1}^n (x_i – \bar{x})(y_i – \bar{y}) σ(x,y)=n−11i=1∑n(xi−xˉ)(yi−yˉ)
上述公式是样本协方差的计算方法。若有整个总体的数据,可以将 (n – 1) 改为 n,得到总体协方差。
C o v ( X , Y ) = E [ ( X − μ x ) ( Y − μ y ) ] {\rm{Cov}}(X,Y) = E\left[ {\left( {X – {\mu _x}} \right)\left( {Y – {\mu _y}} \right)} \right] Cov(X,Y)=E[(X−μx)(Y−μy)]
正协方差表示两个变量正相关,负协方差表示两个变量负相关,零协方差表示两个变量不相关。
2.3 皮尔逊相关系数(Pearson Correlation Coefficient)
协方差的值可以为正、负或零,但它本身并没有标准化,因此很难用来比较不同数据之间的关系。为了更容易理解变量之间的关系,通常会将协方差标准化为相关系数(Correlation Coefficient),也称为皮尔逊相关系数。相关系数的范围在 -1 到 1 之间,更容易解释和比较不同数据集的关系,为 -1 表示完全负相关,1表示完全正相关,0 表示没有线性关系。相关系数的计算公式如下:
r = C o v ( X , Y ) σ X σ Y r = \frac{
{
{\rm{Cov}}(X,Y)}}{
{
{\sigma _X}{\sigma _Y}}} r=σXσYCov(X,Y)
其中 σ X {\sigma _X} σX和 σ Y {\sigma _Y} σY分别是 X X X和 Y Y Y标准差。
今天的文章
余弦距离范围_余弦相似度和欧式距离的组合分享到此就结束了,感谢您的阅读。
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
如需转载请保留出处:https://bianchenghao.cn/80441.html