KNN 随想

MachineLearninginMarketing

K-邻近模型

KNN(K-Nearest Neighbours) K值邻近算法, 是一个简单的, 常被用于分类问题的算法, 也可以用于回归问题。KNN 是非参数的,基于实例的算法。

knn

分类

惰性学习和非参数模型

在统计学中，参数模型通常是假设总体服从某个分布，这个分布可以由一些参数确定，如正态分布由均值和标准差确定，在此基础上构建的模型称为参数模型

常见的参数机器学习模型有：
1、逻辑回归（logistic regression）
2、线性成分分析（linear regression）
3、感知机（perceptron）

非参数模型对于总体的分布不做任何假设或者说是数据分布假设自由，只知道其分布是存在的，所以就无法得到其分布的相关参数，只能通过非参数统计的方法进行推断。

常见的非参数机器学习模型有：
1、决策树
2、朴素贝叶斯
3、支持向量机
4、神经网络

其中最常见的计算各点之间的方法是欧氏距离(Euclidean Distance)。欧氏距离就是计算 N 维空间中两点之间的距离。