机器学习算法-相似度-MahalanobisDistance(马氏距离)

0.概述

马氏距离是由印度统计学家马哈拉诺比斯提出的,表示数据的协方差距离。它是一种有效的计算两个未知样本集的相似度的方法。与欧氏距离不同的是它考虑到各种特征之间的联系,即独立于测量尺度。

1.马氏距离公式

设总体G为m维总体(考察m个指标),均值向量为μ,协方差矩阵为S,则样品X=(x1,x2,…xm)’与总体G的马氏距离定义为:

公式

向量Xi与Xj之间的马氏距离定义为:

公式1

若协方差矩阵是单位矩阵(各个样本向量之间独立同分布),则公式就成了:

公式2

若协方差矩阵是对角矩阵,公式变成了标准化欧氏距离。

2.马氏距离可视化

图例

3.优缺点

马氏距离和量纲(尺寸)无关,排除变量之间的相关性干扰。