深度学习--利用梯度下降法进行多变量的二分类（感知机）

其实这一节涉及到了感知机的相关知识，就把这一节当作是学习感知机的引子吧。

什么是二分类

我们先来说一下什么是二分类，二分类指的是将结果分为两个互斥的类别，通常用来表示问题的两种可能。

为什么用感知机

学习二分类常见的解决问题的模型有很多，这里我们使用感知机模型。至于为什么，因为感知机模型很多地方用起来比较简便，就拿我们这一节的问题举一下例子，我们需要依照房子的价格对房子进行分类。在感知机模型中，我们可以使用一个分段函数作为激活函数，来控制结果作为一个个单个的离散的值，如+1，-1。这是感知机能做到的。如果我们使用逻辑回归方法，逻辑回归模型会使用sigmoid函数（又称逻辑函数）作为激活函数。这是sigmoid函数的公式：

如此麻烦的式子得到的结果不是离散的值，而是一个概率值。

感知机的损失函数通常是感知机损失函数（Perceptron Loss），它是一种误分类损失，只关心预测是否正确。如果预测错误，则进行更新。它是这样的：

而逻辑回归的损失函数是对数损失（Log Loss），又称为交叉熵损失。它在计算损失时不仅考虑预测是否正确，还考虑了预测的置信度（即模型输出的概率值），它是这样的：