Pytorch学习笔记第4页

【Pytorch学习笔记】7.继承Module类构建模型时，子模块的构建原理（基于OrderedDict）以及关于Python类的属性赋值机制

本文继续探究学Pytorch时，涉及到的python底层的一些知识。文章目录问：继承Module类构造模型时，背后是如何把自定义的子模块组装起来的？1Module初始化时会构建多个OrderedDict（有序字典）存放子模块2Python的魔法方法__setattr__()定义了类实例的属性赋值时的行为3Module类实例在属性赋值时会判断属性的类型存入对应的OrderedDict总结问：继承Mo

takedachia·2023-01-29 23:06

【Pytorch学习笔记】数据导入

1.前言Pytorch的数据导入依靠torch.utils.data.DataLoader和torch.utils.data.Dataset（或torch.utils.data.IterableDataset）两个类来实现。2.torch.utils.data.DataLoader学习在torch.utils.data官方文档中提到，torch.utils.data.DataLoader是pyto

弱就多努力·2023-01-28 18:37

Pytorch学习笔记：最简单的推理网络组成（from tudui）

文章目录前言1.引入库2.读取数据3.数据处理（totensor,resize）4.重载网络模型和训练好的参数5.输入图片给模型前言摘要：最简单的推理网络组成（fromtudui）代码如下（示例）：1.引入库importtorchimporttorchvisionfromPILimportImagefromtorchimportnn2.读取数据image_path="../imgs/airplan

豆爸OS·2023-01-28 14:38

【Pytorch学习笔记】003--梯度下降算法

1.引入由【Pytorch学习笔记】002—线性模型。在简化目标函数为不含常数项的线性方程后，我们需要在w-cost曲线图中寻找一个最优的w值使得cost最小。

沉潜于·2023-01-28 10:47

pytorch学习笔记-----RNN CNN自然语言处理

RNNclassModel(nn.Module):def__init__(self,config):super(Model,self).__init__()self.embedding=nn.Embedding.from_pretrained(config.embedding_pretrained,freeze=False)self.lstm=nn.LSTM(config.embed,config

cvks·2023-01-26 13:12

pytorch学习笔记-----递归神经网络RNN 与LSTM

用途：CNN一般用于图像处理中RNN一般用于自然语言处理特征的时序相关性：每一次训练都考虑到之前的结果（有了时序性的连接）前一时刻的隐层输出反过来作为下一次隐层输入的一部分存在问题：个人理解RNN网络会考虑到所有的之前的结果，如果时序很长，那必然会导致前后关联没那么大，这样效果不好LSTM：为解决这一问题，有选择性进行时序信息遗忘加入C参数控制单元，可以改变模型的复杂度，选择要保留的信息

cvks·2023-01-26 13:42

Pytorch学习笔记一----tensor与numpy数组的转换

主要看了莫烦老师的Pytorch教程，结合自己的理解和其他资料整理了第一次笔记。torch的tensor与Numpy数组之间的转换将torch的tensor转换为numpy数组：.numpy()；；将numpy数组转化为torch中的tensor：torch.from_numpy()；```pythonimporttorchimportnumpyasnpnp_data=np.arange(6).r

不不加辣椒·2023-01-25 11:38

Pytorch学习笔记(十):Torch对张量的计算、Numpy对数组的计算、它们之间的转换

文章目录Torch对张量的计算Numpy对数组的计算张量和数组的转换Torch对张量的计算#pytorch张量importtorch'''张量定义'''a=torch.FloatTensor(2,3)#定义一个两行三列的张量b=torch.FloatTensor([2,3,4,5])#定义一个四行一列的张量，并给每个数字赋值c=torch.rand(2,3)#定义一个两行三列的张量，并以0~1之间

ZZY_dl·2023-01-25 07:12

深入浅出PyTorch学习笔记（持续更新）

PyTorch了解与安装PyTorch是利用深度学习进行科学研究的重要工具，学术界常用的深度学习框架，简洁、高效、扩展性好。PyTorch的安装安装Anaconda创建虚拟环境（Windows在AnacondaPrompt进行）condacreate-npytorchpython=3.8查看环境是否安装成功condainfo--envs进入创建的pytorch环境condaactivatepyto

子青0911·2023-01-24 11:31

pytorch 的Conv2d的详细解释

的详细解释pytorch常用的padding函数-慢行厚积-博客园padding=1表示，左右上下都是填充1，padding=(1,3)表示，输入卷积神经网络的图像，高度填充1,宽度填充3stride解释PyTorch

andrew P·2023-01-23 07:09

pytorch学习笔记-DataLoader

DataLoader是一个读取数据的接口，该接口的目的是根据batchsize的大小，是否shuffle等封装成一个BatchSize大小的Tensor，用于后面的训练。官方给出的声明是：DataLoader是：数据加载，由数据集和采样器组成，根据你设置好的参数，DataLoader这个类就会开始对数据进行初始化操作，在传参的同时实例化对象，如下：test_loader=DataLoader(da

Dawn向阳而生·2023-01-22 11:23

pytorch学习笔记02-DataLoader-Dataset-transforms

Content：1.DataLoadertorch.utils.data.DataLoader2.Datasettorch.utils.data.Dataset3.图像预处理——transforms(1)transforms.CenterCrop从图像中心裁剪尺寸为size的图片(2)transforms.RandomCrop从图像中随机裁剪出尺寸为size的图片(3)transforms.Ran

marvel2018·2023-01-22 11:53

pytorch学习笔记------------优化器

注意事项：1.优化器参数的设置real_optim=torch.optim.SGD(nn_seq_1.parameters(),lr=0.01)#params=nn_seq_1.model是不正确的2.；利用损失反向传播，更新参数real_loss=loss(output,targets)#这是损失值，在损失图像上就是一个点，所以需要求这一点的梯度（这个可以对很多参数求梯度）real_optim.

完◎笑·2023-01-22 11:22

pytorch学习笔记-----分类网络实践

基于经典网络训练图像分类数据预处理部分：可以利用torchvision.transforms模块进行数据增强，及数据预处理制作可以读取数据的dataloader网络模型设置：可以加载预训练模型，例如torchvision经典网络框架可以更改最后的head层训练自己的任务，大多为全连接层前几层多为特征提取我们可以只训练最后任务层网络模型保存

cvks·2023-01-22 11:22

Pytorch学习笔记-DataLoader

1.dataloader：dataloader本质是一个可迭代,使用iter()访问，不能使用next()访问；使用iter（dataloader）返回的是一个迭代器，然后可以使用next()访问。iter():生成器是iterator可迭代对象，但list,dict,str是iterable,不是可迭代对象，iter()函数是把list,dict,str等iterable转换为可迭代对象.nex

维他柠檬可乐·2023-01-22 11:51

pytorch学习笔记3-transforms的使用

transforms的使用transforms就像一个工具箱，是一个.py文件，主要用到里面的一些类，可以将特定格式的图片进行转化。在之前的笔记中，用SummaryWriter.add_image()读取图片的类型为numpy.ndarray型，这次用tensor（torch.Tensor）型。tensor数据类型，包装了神经网络中的一些参数。fromPILimportImagefromtorch

ThreeS_tones·2023-01-22 11:19

pytorch学习笔记4-torchvision中数据集的使用

在pytorch官网的torchvision中可以看到提供的数据集以及详细的说明，现成的数据集使用起来也很方便。以CIFAR10为例，点开可以看到CIFAR10的参数和返回值的相关介绍：importtorchvision#参数train为TRUE则返回训练集，为FALSE则返回测试集，download设置为TRUE则自动从网上下载train_set=torchvision.datasets.CIF

ThreeS_tones·2023-01-22 11:49

pytorch学习笔记5-dataloader的使用

先上pytorch官网查看dataloader这个类的帮助文档。shuffle=4的时候，4个4个打包，返回的是一个迭代器。importtorchvisionfromtorch.utils.dataimportDataLoaderfromtorch.utils.tensorboardimportSummaryWriter#准备的测试数据集test_data=torchvision.datasets

ThreeS_tones·2023-01-22 11:45

【pytorch学习笔记】pytorch 搭建NIN网络+Fashion-Mnist数据集

目录NIN网络pytorch搭建NIN网络参考NIN网络论文《NetworkInNetwork》在传统的CNN模型中，卷积层通过filter进行卷积操作，再使用非线性激活函数进行处理，产生特征映射（featuremapping）。其中，高层卷积层提取到的featuremapping是在底层卷积层提取到的featuremapping的基础上进行再提取得到的，所以如果提高每个卷积层的特征提取能力，那么

是安澜啊·2023-01-20 15:57

Pytorch学习笔记（三）——nn.Sequential的理解

nn.Sequential的理解一、源码剖析二、实战意义在定义CNN模型的时候看到有如下定义，其中讲解一下nn.SequentialclassCNN(nn.Module):def__int__(self):super(CNN,self).__init__()self.conv1=nn.Sequential(nn.Conv2d(in_channels=1,out_channels=16,kernel

酒与花生米·2023-01-20 14:41

【Pytorch学习笔记】2.Pytoch基础

文章目录4.基本数据类型4.1AllisaboutTensor4.2Howtodenotestring4.3Datatype4.4Typecheck4.5Dimension/rank4.6Mixed5.创建Tensor5.1Importfromnumpy5.2ImportfromList5.3uninitialized5.4setdefaulttype5.5rand/rand_like,randi

贪钱算法还我头发·2023-01-20 13:04

pytorch学习笔记--trochvision.datasets和DataLoader的使用

trochvision.datasets和DataLoader的使用一、datasets二、DataLoader补充：datasets类的代码本文为学习笔记，感谢PyTorch深度学习快速入门教程（绝对通俗易懂！）【小土堆】一、datasetsdatasets工具在trochvision中importtorchvisionfromtorchvisionimporttransformsastffro

Tony·2023-01-20 10:58

pytorch学习笔记-2022

学习笔记文章目录学习笔记1.pytorch二、pytorch学习0.先验概率后验概率：1.函数2.python对比jupter3.pytorch读取数据4.tensorboard6.transform常用函数7.dataloader8.神经网络9.网络模型的训练-加载10.使用GPU训练11..eval()和torch.no_grad()区别1.pytorch一、安装路径：D:\SoftwareT

echoliuy·2023-01-20 10:55

pytorch学习笔记-Dataset类代码实战

本人在b站上学习PyTorch深度学习快速入门教程以及python学习中所做的笔记，教程链接在末尾。准备工作：蜜蜂蚂蚁数据集：https://download.pytorch.org/tutorial/hymenoptera_data.zip把要制作的数据集移动到当前项目中：右键点击图片，选择复制路径，上面的absolute是绝对路径，下面pathfromcontentroot是相对路径。在一个工

ThreeS_tones·2023-01-20 10:52

pytorch学习笔记-tensorboard使用

tensorboard的使用（一）SummaryWriter类中.add_scalar()方法的使用（可按住Ctrl点击add_scalar查看该方法的功能）。先用pip安装tensorboard，执行如下命令，画一个y=2x的图像。fromtorch.utils.tensorboardimportSummaryWriterwriter=SummaryWriter("logs")foriinran

ThreeS_tones·2023-01-20 10:52

Pytorch学习笔记（9）———基本的层layers

卷积神经网络常见的层类型名称作用Conv卷积层提取特征ReLU激活层激活Pool池化——BatchNorm批量归一化——Linear(FullConnect)全连接层——Dropout————ConvTranspose反卷积——pytorch中各种层的用法卷积Convolution卷积类型作用torrch.nn.Conv1d一维卷积torch.nn.Conv2d二维卷积torch.nn.Conv3

永不言弃的小颖子·2023-01-19 18:13

Pytorch学习笔记_1

Pytorch学习笔记张量的创建与运算torch.chunk(input,chunks,dim=0)→listoftensor(只能均分)>>>importtorch>>>b=torch.rand([3,2

野比大雄灬·2023-01-19 15:28

pytorch学习笔记

pytorch的神经网络模板。item可以把tensor数据类型转化为普通的数字。保存模型的。pth这里是可以自定义的，一般保为pth小配件：准确率1代表的是纵向的。使用gpu进行训练——在数据，模型，损失函数上+cuda即可第二种使用gpu的方法

Louisejin·2023-01-19 10:43

莫烦pytorch学习笔记4

莫烦pytorch学习笔记41卷积网络2循环神经网络RNN,LSTM,GRU2.1RNN2.2LSTM2.3RNN分类例子2.4RNN回归例子2.5logistic回归1卷积网络理论：https://blog.csdn.net

dayday学习·2023-01-19 08:48

Pytorch学习笔记-梯度与反向传播

梯度与反向传播PyTorch提供的autograd包能够根据输入和前向传播过程自动构建计算图，并执行反向传播Tensor是这个包的核心类，如果将其属性.requires_grad设置为True，它将开始追踪(track)在其上的所有操作（这样就可以利用链式法则进行梯度传播了）。完成计算后，可以调用.backward()来完成所有梯度计算。此Tensor的梯度将累积到.grad属性中。在y.back

Dexter_Sun1·2023-01-19 06:10

（十三）pytorch学习笔记---内容为学习资源摘录整合の保存模型，Sequential 和 Module

一、多层神经网络，Sequential和Module通过前面的章节，我们了解到了机器学习领域中最常见的两个模型，线性回归模型和Logistic回归模型，他们分别是处理机器学习中最常见的两类问题-回归问题和分类问题。下面我们会讲第一个深度学习的模型，多层神经网络。多层神经网络左边是一张神经元的图片，神经元通过突触接受输入，然后通过神经激活的方式传输给后面的神经元。这对比于右边的神经网络，首先接受数据

weixin_40245436·2023-01-18 17:39

Pytorch学习笔记5：Logistic回归(分类问题)

分类问题之前举例中学习时间与学习成绩的问题，是回归问题，也就是输入和输出数值之间的关系x(hours)y(points)1224364?但是如果经y的值标记为是否合格，此问题将变成一个二分类问题：x(hours)y(passorfail)1fail(0)2fail(0)3pass(1)4?实际上是计算在4工时下是否合格的概率，即对概率的计算与比较，而非类别之间的数值比较。逻辑回归：二分类问题是非0

岳戴·2023-01-18 17:32

PyTorch学习笔记（7）网络模型的使用与修改

本文使用pytorch自带的网络模型，并略作修改，使它能够适应其它的数据集。文章目录下载修改模型模型的保存与读取下载这里以vgg16为例子。pretrained=True表示下载已经训练好的模型，即包含相关参数，progress=True表示显示进度条。importtorchvisionfromtorchimportnn#vgg16_false=torchvision.models.vgg16(p

游星凌·2023-01-17 22:41

Pytorch学习笔记：加载预训练模型

文章目录前言摘要：1.加载模型2.修改加载模型3.加载预训练模型4.保存模型回顾总结前言torchvision是官方经常需要的包，包括：torchvision.datasets：预定义的训练集（比如MNIST、CIFAR10等）;torchvision.models：包含预定义好的经典网络结构（比如AlexNet、VGG、ResNet等）,torchvision.transforms：数据增强的方

豆爸OS·2023-01-17 22:40

PyTorch学习笔记（13）--现有网络模型的使用及修改

PyTorch学习笔记（13）–现有网络模型的使用及修改本博文是PyTorch的学习笔记，第13次内容记录，主要介绍如何使用现有的神经网络模型，如何修改现有的网络模型。

我这一次·2023-01-17 22:10

PyTorch学习笔记（12）--神经网络优化器

PyTorch学习笔记（12）–神经网络优化器本博文是PyTorch的学习笔记，第12次内容记录，主要是在上一篇文章中提到的损失函数的基础上，研究神经网络优化器的使用方法。

我这一次·2023-01-17 22:39

【小土堆】Pytorch学习笔记_P25/26_网络模型使用、修改、存取

（0）摘要#课程链接PyTorch深度学习快速入门教程（绝对通俗易懂！）【小土堆】_哔哩哔哩_bilibili#笔记内容（1）P25_现有网络模型的使用及修改（2）P26_网络模型的保存与读取（1）现有网络模型的使用及修改#（1）现有模型的的使用。1）pytorch的torchvision文档中，给我们提供了较为有用的预训练模型。现在更新在左侧栏的Modelsandpre-trainedweigh

惜年_night·2023-01-17 22:36

Pytorch学习笔记（4）———自定义数据集

在训练深度学习模型之前，样本集的制作非常重要。在pytorch中，提供了一些接口和类，方便我们定义自己的数据集合，下面完整的试验自定义样本集的整个流程。实验过程1.收集图像样本以简单的猫狗二分类为例，可以在网上下载一些猫狗图片。创建以下目录：data-------------根目录data/test-------测试集data/train------训练集data/val--------验证集在t

永不言弃的小颖子·2023-01-17 12:12

Pytorch学习笔记 Task2.2 pytorch实现线性回归

线性回归能够用一个直线较为精准的描述数据之间的关系。当新的数据出现的时候，就能够预测出一个简单的值。1pytorch实现线性回归fromtorch.autogradimportVariablefromtorch.utils.dataimportTensorDataset,DataLoader"""PytorchDataset/TensorDataset和Dataloaderhttps://www.

甲壳剑齿鸟·2023-01-17 08:58

Pytorch学习笔记之通过numpy实现线性拟合

通过使用numpy库编写简单的GradientDescent数据位于附件之中importtorchfromtorchimportautogradimportnumpyasnpimportmatplotlib.pyplotasplt'''torch关于求导的简单运用'''#x=torch.tensor(1.)#a=torch.tensor(1.,requires_grad=True)#b=torch

想当厨子的半吊子程序员·2023-01-17 07:55

Pytorch学习笔记（四）线性回归实现

代码来自深度之眼课程。用Pytorch搭建神经网络方式实现线性回归模型，线性变换+激活函数=全连接。@author:tingsongyuimporttorchimportmatplotlib.pyplotasplttorch.manual_seed(10)lr=0.05#学习率#创建训练数据x=torch.rand(20,1)*10#xdata(tensor),shape=(20,1)y=2*x+

xinxihu·2023-01-17 07:51

PyTorch学习笔记一：用PyTorch实现线性回归

pytorch实现线性回归模型使用pytorch框架实现线性回归一共分为四步一、Preparedataset（准备数据集）二、DesignmodelusingClass（使用类设计模型）三、ConstructLossandOptimizer（构造损失函数和优化器）四、TrainingCycle（训练循环）一、Preparedataset（准备数据集）这里本文使用了一个最简单的线性模型我们假设x的值

思无邪xjq·2023-01-16 11:21

【Pytorch学习笔记】002--线性模型

1.深度学习准备过程DataSet(数据集)、Model(选择模型)、Training(模型训练)、infering(进行推理预测)2.数据集分类训练集测试集验证集(开发集)：测试集的标准答案一般是不知道的，因此训练之后的模型对具体问题的适配程度并不可知。如果利用训练集来进行验证，会出现“自己考自己”这样的情况，容易过拟合。为了提升泛化能力，将训练集分成训练集和验证集（ValidationSet）

沉潜于·2023-01-16 10:51

PyTorch学习笔记（4）卷积、池化、非线性激活

文章目录基本骨架卷积操作卷积层Conv2d介绍什么是输入通道？代码案例池化层MaxPool2d介绍代码案例实际应用非线性激活ReLUSigmoid代码案例线性层参考基本骨架只需要继承Module类，再实现相应的方法即可。这里实现了一个极简的神经网络，即对输入值加一再输出。fromtorchimportnnimporttorch#一个简单的神经网络classTest(nn.Module):def__

游星凌·2023-01-15 07:03

PyTorch学习笔记（7）--神经网络：池化层

PyTorch学习笔记（7）–神经网络：池化层本博文是PyTorch的学习笔记，第7次内容记录，主要介绍神经网络池化层的基本使用。

我这一次·2023-01-15 07:33

pytorch学习笔记-----卷积，池化参数计算

卷积神经网络构建一般卷积层，relu层，池化层写成一个模块importtorch.nnasnnclassCNN(nn.Module):def__init__(self):super(CNN,self).__init__()self.conv1=nn.Sequential(nn.Conv2d(in_channels=1,#输入通道数1（灰度图）out_channels=16,#输出通道数kernel

cvks·2023-01-15 07:29

pytorch学习笔记—池化层

importtorchvisionfromtensorboardXimportSummaryWriterfromtorchimportnnfromtorch.utils.dataimportDataLoaderfromtorchvisionimporttransformsimporttorchtest_set=torchvision.datasets.CIFAR10("./datasets2",t

完◎笑·2023-01-15 07:58

pytorch学习笔记七：nn网络层——池化层、线性层

一、池化层池化运算：对信号进行“收集”并“总结”，类似于水池收集水资源，因而得名池化层。收集：由多变少，图像的尺寸由大变小总结：最大值/平均值下面是最大值池化和平均值池化的示意图：最大值池化就是将滑动窗口中的最大值作为最终的结果；平均值池化是将滑动窗口的平均值作为最终结果。下面看一下pytorch中提供最大值和平均值池化的函数1、nn.Maxpool2dnn.MaxPool2d(kernel_si

Dear_林·2023-01-15 07:23

Pytorch学习笔记（十一）——pytorch自定义数据集

一、为什么要使用Datasets类Datasets是pytorch的一个类，pytorch自带多种数据集，如：MINIST等数据集就是在pytorch的Datasets的库中的。Pytorch中有工具函数torch.utils.Data.DataLoader，通过这个函数我们在准备加载数据集使用mini-batch的时候可以使用多线程并行处理，这样可以加快我们准备数据集的速度。Datasets就是

酒与花生米·2023-01-13 15:20

Pytorch学习笔记(8)——在序列标注等多维数据上如何使用交叉熵

最近遇到个新的问题，要对序列标注任务使用交叉熵获得损失，由于没有在网上查找到相关资料，所以就自己整理了一份如何调库的方法。对于文本分类等任务而言，其模型输出的数据格式为(batch_size,num_classes)(batch\_size,num\_classes)(batch_size,num_classes)，这类方法采用Pytorch的交叉熵很简单，代码如下：importtorchimpo

野指针小李·2023-01-12 10:23

推荐频道

Pytorch学习笔记