机器学习-李宏毅第1讲学习笔记

1.什么是机器学习？

Lookng for Function（主要帮人类找一个写不出来的复杂函式）

从广义上来说，机器学习是一种能够赋予机器学习的能力以此让它完成直接编程无法完成的功能的方法。但从实践的意义上来说，机器学习是一种通过利用数据，训练出模型，然后使用模型预测的一种方法。

2.Different types of Functions（机器学习的不同类型）

Regression（回归）：要找到的函式，他的输出是一个数值（如上图预测明天的PM2.5的数值）

classification（分类）:函式的输出，就是从我们设定好的选项中选择一个当作输出（如上图判断这份邮件是否输出）

Structured Learning  ：学会创造！

3.How to find a function（如何找到一个函式）

找到函数的三个步骤：

1.Function with Unknow parameters（写出一个带有未知参数的函式）model  y=b+wx （b和w是未知的参数）   ——如何找到一系列的函数来实现预期功能，这是一个建模问题

2.Define Loss from Training Data（定义训练数据丢失）

Loss也是一个Fuction,它的输入是model里面的参数（L越大，代表一组参数越不好；L越小，代表现在这一组参数越好）——如何找到一系列评价标准来评价函数的好坏，这是一个评价问题

3.Optimization（优化）找到能让损失函数值最小的参数 ——如何快速找到性能最优的函数，这是一个优化问题。

具体方法：Gradient Descent（梯度下降）

 

1.随机选取初始值w0

2.计算w=w0的时候，w这个参数对loss的微分是多少

3.根据微分（梯度）的方向，改变参数的值改变的大小取决于：斜率的大小以及学习率的大小（超参数）