1.概述
KNN算法是一种简单实用的分类算法,其通过测量不同样本之间的距离,然后根据距离选择最近的K个邻居来进行分类。算法核心思想是如果一个样本在特征空间中的K个最临近的样本中的大多数属于某一个类别,则该样本也属于这个类别。整个分类过程包括三步,一是算距离来判断哪些是邻居;二是求近邻,即选择K值;三是做决策,进行分类。KNN算法是易于理解和实现的分类技术,且在许多情况下表现良好。KNN算法特别适合于多模式类及对象拥有多类别标签的情况。
2.优点
[1]简单好用,容易理解,精度高,理论成熟,既可以用于分类,也可以用于回归; [2]可用于数值型数据和离散型数据; [3]训练时间复杂度为O (n); [4]对异常值不敏感。
3.缺点
[1]计算复杂度高,空间复杂度高; [2]样本不平衡问题下误差较大; [3]一般数值很大时计算量太大,但是单个样本又不能太少,否则容易发生误分类; [4]无法给出数据的内在含义。
4.算法的改进方向
分类效率的提高和分类效果的改善。
5.生活中的例子(靠嘴模拟)
