机器学习(二) 本文(2.5万字) | KNN算法原理及Python复现 |

文章目录

  • 一 KNN算法原理
  • 二 KNN三要素
  • 三 机器学习中标准化
  • 四 KNN分类预测规则
  • 五 KNN回归预测规则
  • 六 KNN算法实现方式
  • 七 KD Tree
    • 7.1 构造KDtree
    • 7.2 KD tree查找最近邻
  • 八 KNN特点
  • 九 KNN算法实现
    • 案例一
    • 案例二
    • 1. 机器学习
    • 2. 深度学习与目标检测
    • 3. YOLOv5
    • 4. YOLOv5改进
    • 5. YOLOv8及其改进
    • 6. Python与PyTorch
    • 7. 工具
    • 8. 小知识点
    • 9. 杂记

一 KNN算法原理

K近邻 分类,回归
K=1 最近邻,多分类
多数表决规则等价于0-1损失函数下的经验风险最小化 KDTree是一种存储k维空间数据的树结构,KDTree是平衡二叉树

K近邻(K-nearst neighbors, KNN)是一种基本的机器学习算法,所谓k近邻,就是k个最近的邻居的意思,说的是每个样本都可以用它最接近的k个邻居来代表;KNN算法既可以应用于分类应用中,也可以应用在回归应用中

KNN在做回归和分类的主要区别在于最后做预测的时候的决策方式不同。KNN在分类预测时,一般采用多数表决法;而在做回归预测时,一般采用平均值法

你可能感兴趣的:(机器学习,算法,k近邻算法)