第0节 机器学习与深度学习介绍

人工智能：能够感知、推理、行动和适应的程序

机器学习：能够随着数据量的增加而不断改进性能的算法（数学上的可解释性但准确率不是百分百，灵活度不高）

深度学习：机器学习的一个子集：利用多层神经网络从大量数据中进行学习（设计一个很深的网络架构让机器自己学）（深度学习就是找一个函数f）

机器学习算法简介（狭义）

一般是基于数学，或者统计学的方法，具有很强的可解释性

经典传统机器学习算法：KNN、决策树、朴素贝叶斯

一、KNN：K最近邻居 判断最近的属性 K-Nearest Neighbors

一种监督学习算法（有标签），用于分类和回归问题。它的基本思想是通过测量不同数据点之间的距离来进行预测。KNN工作原理步骤：

1. 距离度量：KNN使用距离度量（通常欧氏距离（三维空间））来衡量数据点之间的相似性。
2. 确定邻居数量K
3. 投票机制

• 决策树

不善于处理未见过的特征

主要根据见过的特征进行分类，走到叶节点得出结果

• 朴素贝叶斯

先知道结果，再去推选择的方式，后验

初识神经网络任务

f(  x  )=  y

f：神经网络  x：输入  y：输出

常见神经网络输入，一般有三种数据形式：向量（多个x）、矩阵/张量（torch）（图片）、序列（相对于1个x）（视频、声音、图片+文字）（有前后关系）

常见输出：

回归任务（填空题）（根据以前温度推测明天温度）

分类任务（选择题）（图片 猫/狗 句子 积极/消极 疾病 轻度/中度/重度）

生成任务（结构化 简答题）（chatgpt deepseeek）（通过类似分类实现，做选择）

分类和回归是结构化的基础，分类时，用数字表示类别

回归与神经元

如何开始深度学习

Step1：定义一个函数（模型）model

Step2：定义一个合适的损失函数

Step3：根据损失，对模型进行优化

Weight 权重   bias  偏差

数据/特征 feature 标签 label

Loss 就是这些未知参数的函数，判断我们选择的这组参数怎么样

Optimization 优化  learning rate   超参数