目录1从求f(x)的误差和函数E(θ)的导函数，开始通过参数θ去找E(θ)的最小值，从而确定最好的拟合曲线函数f(x)1.1从f(x)对y的回归模拟开始1.2从比较不同的f(x)的E(θ)，引出的问题1.3f(x)的误差和E(θ)函数，可以变成通用的函数形式，从而E(θ)只需要关注其参数θ0,θ1...的不同，而找到其最小值1.4调整参数θ0，θ1...，试图找到f(x)的误差和函数E(θ)的最小

目录1什么是回归分析1.1什么是线性回归1.2非线性回归2数据和判断方法2.1原始数据2.2判断方法：最小二乘法3关于线性回归的实测3.1用直线模拟3.2怎么判断哪个线性模拟拟合更好呢？3.2.1判断标准3.2.2最小二乘法3.2.3高维度数据3.3用python来算下?（暂缺，用plot画图?）4关于误差和E(θ)=1/2*(f(xi)-yi)^2这个函数本身4.0注意新手错误4.1E(θ)这个

小白学机器学习西瓜书-第六章支持向量机26.4基本型6.5对偶问题上次我们讲到我们用数学式子表达了我们要求的超平面max⁡w,bymin(wTxmin+b)∣∣w∣∣(8)\max_{w,b}\frac

小白学机器学习西瓜书-第六章支持向量机46.7支持向量回归6.7支持向量回归对于样本(x,y)(x,y)(x,y)而言，传统的回归模型是基于模型输入f(x)f(x)f(x)与真实yyy之间的差别来计算损失

小白学机器学习西瓜书-第六章支持向量机6.1间隔与支持向量6.2几何间隔6.3支持向量机这一部分我们继续总结分类算法，支持向量机上一部分的link：小白学机器学习西瓜书-第三章对数几率回归6.1间隔与支持向量假如我们有一些样本点

小白学机器学习西瓜书-第六章支持向量机36.6软间隔与正则化在前面的讨论中，我们一直做了一个假定，即存在一个超平面能够将不同类的样本完全进行区分。

小白学机器学习西瓜书-第三章对数几率回归3.3对数几率回归3.3.1对数几率函数3.3.1估计参数上一部分我们介绍了线性回归，包括简单的二元回归和多元回归，这两个主要解决的是拟合预测的问题，但如果我们碰到的并不是预测连续性值的问题而是分类问题呢

小白学机器学习西瓜书-第三章线性回归3.1基本形式3.2线性回归3.2.1二元线性回归3.2.2多元线性回归前段时间学习了机器学习这本书，这本书把我们比较熟悉的算法的本质和公式推导都进行了阐述，当中也有一些学习曲线比较陡峭的内容

Sincemachinelearningisinherentlydatadriven,dataisatthecoredataofmachinelearning.Thegoalofmachinelearningistodesigngeneral-purposemethodologiestoextractvaluablepatternsfromdata,ideallywithoutmuchdomain

PartIMathematicalFoundations1IntroductionandMotivationMachinelearningisaboutdesigningalgorithmsthatautomaticallyextractvaluableinformationfromdata.Theemphasishereison“automatic”,i.e.,machinelearningis

向量化操作是为了提高计算机处理数据的速度刚开始看不是很熟悉机器学习中一些角标的表示，自己尝试使用纸笔梳理了一下