k近邻算法与特征缩放技术

k近邻算法 (k-NN)

k-NN 算法是一种简单的机器学习方法，它通过寻找与新数据点最近的 k 个邻居来进行预测。该算法的核心思想是“近朱者赤，近墨者黑”，即相似的样本更有可能属于同一类别。

k-NN 模型无需复杂的训练过程，只需存储训练集数据即可。预测时，算法会在特征空间中找到距离新数据点最近的 k 个邻居，并根据这些邻居的类别进行预测。

特征缩放

特征缩放是机器学习中一项重要的预处理技术，用于消除不同特征之间取值范围差异带来的影响。常见的特征缩放方法包括：

• 标准化：将数据转换为均值为 0，方差为 1 的标准正态分布。
• 归一化：将数据缩放到 [0, 1] 区间内。

特征缩放可以提高 k-NN 等算法的性能，因为它可以防止具有较大取值范围的特征主导距离计算。