支持向量机（SVM）例题

对于图中所示的线性可分的20个样本数据，利用支持向量机进行预测分类，有三个支持向量$A(0,2)$、$B(2,0)$ 和$C(-1,-1)$。

1. 求支持向量机的线性判别函数。
2. 删除点 A 后，支持向量是否变化?

求解：

1. 三个点，建立联立方程组：
   $$\{\begin{array}{ll}{w}_1{x}_A+w_2{y}_A+b& =1\\ w_1{x}_B+w_2{y}_B+b& =1\\ w_1{x}_C+w_2{y}_C+b& =-1\end{array}$$

[ x A y A 1 x B y B 1 x C y C 1 ] [ w 1 w 2 b ] = [ 1 − 1 − 1 ] \begin{bmatrix} x_A & y_A & 1 \\ x_B & y_B & 1 \\ x_C & y_C & 1 \\ \end{bmatrix} \begin{bmatrix} w_1 \\ w_2 \\ b \\ \end{bmatrix}=\begin{bmatrix} 1 \\ -1 \\ -1 \\ \end{bmatrix} ​xA​xB​xC​​yA​yB​yC​​111​ ​ ​w1​w2​b​ ​= ​1−1−1​ ​
求解
$$\begin{array}{rl}{w}_1& =0.5\\ w_2& =0.5\\ b& =0\end{array}$$
线性判别函数
$$f(x)=0.5x+0.5y$$

2. 变化