深度学习入门笔记(一)
用哔哩哔哩上跟着李沐学AI尝试入门深度学习,这里是笔记区,用于记录以整理所学
工具篇
pytorch
类似于numpy中的数组ndarray,pytorch也有自己的数组张量(tensor)
二者相似但不相同
创建一个内容为0~11的张量:
1.在一个tensor中可以使用的方法:
shape() 返回tensor形状
2.numel() number of element,返回元素个数(返回值为一个int类型)
3.reshape() 改变张量形状
4.sum() 对tensor中所有元素求和
5.item() 当张量中仅有一个标量时,返回该标量的值
6.tolist()
以列表返回tensor中的值
创建全是某个值的张量:
1.torch.zeros() 全是0的tensor
2.torch.ones() 全是1的tensor
3.torch.full(size, value) 全是value的tensor
直接创建张量:
1.torch.tensor([…]) 和新建一个数组类似,直接创建
2.torch.normal(means, std, size) 创建符合正态分布N(means, std)的数组
means平均值
std 方差
tensor间的计算
tensor间进行加减乘除乘方运算都是元素和元素之间进行计算,而不是直接进行向量计算
x = torch.tensor([1.0,2,4,8])
y = torch.tensor([2,2,2,2])
x+y, x-y, x*y, x/y, x**y
两个tensor的合并用torch.cat((X, Y), dim)
dim=0时在行上合并,dim=1时在列上合并
X = torch.arange(12,dtype=torch.float32).reshape((3,4))
Y = torch.tensor([[2.0, 1, 4, 3], [1,2,3,4], [4,3,2,1]])
torch.cat((X, Y), dim=0), torch.cat((X, Y), dim=1)
pytorch的矩阵运算
torch.dot() 点乘(内积),只允许一维相乘
注意,这里不用转置,pytorch会自动进行转置
a = torch.arange(6)
b = torch.arange(6)
torch.dot(a,b)
@符号,相当于矩阵乘法
a = torch.arange(6).reshape(2,3)
b = torch.arange(12).reshape(3,4)
a@b
或者用torch.mm() 矩阵相乘(不广播)
a = torch.arange(6).reshape(2,3)
b = torch.arange(12).reshape(3,4)
torch.mm(a,b)
还有一个torch.matmul(),有广播机制,不写了
torch.bmm() 矩阵批量相乘
似乎是用于高于二维的矩阵,比如两个三维矩阵之间相乘
其他部分
矩阵转置:
a = torch.arange(6).reshape(2,3)
a.T
其他矩阵操作不写了(网上找来的不知道为什么用不了),机器学习用numpy的时候会用到矩阵的逆什么的,因为要推导公式,但是深度学习似乎不用这些,而pytorch用作深度学习比较多,大约是不怎么用这些的,机器学习库用sklearn