Pytorch学习第12页

Pytorch学习(4) —— nn.Sequential nn.ModuleList nn.ModuleDict 源码解析

小玺玺·2022-12-28 07:32

Pytorch学习笔记---2：张量

Pytorch引入了一种基本的数据结构：张量。在深度学习中，张量可以将向量和矩阵推广到任意维度。张量的另一个名称是多维数组，张量的维度与用来表示张量中标量值的索引数量一致。与Numpy数组相比，Pytorch张量具有一些“超能力”，如在GPU上执行非常快的操作、在多个设备或及其上进行分布式操作以及跟踪创建它们的计算图。在实现现代深度学习库时，这些都是重要的特性。本文将介绍使用Pytorch张量库来

一件迷途小书童·2022-12-27 10:17

pytorch学习笔记（四）——MNIST数据集实战

pytorch入门之MINIST数据集实战目录神经网络运作流程回顾识别的四个步骤实现代码目录神经网络运作流程上图所示是一个简单的二层神经网络结构，猫和狗的图片作为输入，依次是输入层，隐层，输出层。每张图片作为输入经过模型得到输出判别是猫还是狗，将输入与真实值之间求误差，再对误差求梯度优化参数w和b，使最后得到的误差尽可能小。回顾上一个博客中我们讲到，我们将输入X经过一个线性模型得再通过ReLU激活

南风渐起·2022-12-27 10:25

Pytorch 学习笔记 nn.ModuleList与nn.Sequential

Pytorch学习笔记nn.ModuleList与nn.Sequentialnn.Sequential是Module的子类，在构建若干个网络层之后，由于其内部已经封装好了forward函数，可以直接调用

Shawn Mendes·2022-12-27 08:18

pytorch学习（九）

PyTorch基础:数据的加载和预处理PyTorch通过torch.utils.data对一般常用的数据加载进行了封装，可以很容易地实现多线程数据预读和批量加载。并且torchvision已经预先实现了常用图像数据集，包括前面使用过的CIFAR-10，ImageNet、COCO、MNIST、LSUN等数据集，可通过torchvision.datasets方便的调用#首先要引入相关的包importt

王小凡wxf·2022-12-27 07:32

Pytorch学习笔记-08 常见报错信息

Pytorch学习笔记-08常见报错信息报错：ValueError:num_samplesshouldbeapositiveintegervalue,butgotnum_samples=03可能的原因：

Yuetianw·2022-12-26 11:43

GitHub上的pytorch学习教程推荐

目录：PyTorch学习教程、手册PyTorch视频教程NLP&PyTorch实战CV&PyTorch实战PyTorch论文推荐Pytorch书籍推荐PyTorch学习教程、手册PyTorch英文版官方手册

巴黎不咖喱·2022-12-25 22:49

torchtext 中文语料加载

在pytorch学习中发现有个torchtext库，说是用来文本处理，就接触一下。发现目前网上资料都有点过时了（毕竟这东西出了这么久，总有版本更新）。所以自己另开一个帖子记录以下内容。

cnzx005·2022-12-25 16:03

Pytorch学习笔记实例1——二分类

二分类使用损失函数：BCEloss输出层激活方式：sigmoid#!/usr/bin/envpython#coding:utf-8#In[1]:importmatplotlib.pyplotaspltimportnumpyasnpimportpandasaspdimporttorch#In[34]:#读数据#In[2]:data=pd.read_csv('./dataset/credit-a.cs

hello everyone！·2022-12-25 09:20

Pytorch实现线性回归——Pytorch学习笔记一

Pytorch实现线性回归本文所记录的内容是观看B站刘二大人的相关pytorch教学视频所做的笔记视频链接：Pytorch深度学习实践一、Python知识点1.类的继承类做继承时，在初始化时需要这样操作：Module是父类，LinearModel类继承自该父类classLinearModel(torch.nn.Module):def__init__(self):super(LinearModel,

Er_Bai·2022-12-25 09:19

Pytorch实现多分类问题——Pytorch学习笔记二

Er_Bai·2022-12-25 09:49

PyTorch学习记录(1) : 基本科学计算

PyTorch学习1、基本操作importnumpyasnpimporttorchobj=torch.Tensor(3,4)#1.判断是否是Tensortorch.is_tensor(obj)#isinstance

stupid_miao·2022-12-24 21:40

pytorch学习笔记一：pytorch学习的路线图

1.gpu加速，tensor和autograd(向量和自动求导)2.神经网络工具箱gpu加速示例代码：importtorchimporttimeprint(torch.__version__)print(torch.cuda.is_available())a=torch.randn(10000,

爱学习的人工智障·2022-12-24 15:52

【Pytorch】Pytorch学习笔记01

一、准备工作官网：https://pytorch.org中文文档：https://pytorch.apachecn.org/#/docs/1.7/动手学深度学习：http://zh.d2l.ai/安装pytorch安装torchviz安装graphviz软件(安装到系统变量)https://graphviz.org/download/安装torchviz库pipinstalltorchviz二、基

KmBase·2022-12-24 15:50

Pytorch学习笔记(一)

学习资料：Pytorch中文手册：参见PyTorch中文手册Pytorch深度学习实践：参见《PyTorch深度学习实践》完结合集_哔哩哔哩_bilibili知识点1：Pytorch基础—自动求导—backward()中gradient参数说明转载：https://www.cnblogs.com/bytesfly/p/why-need-gradient-arg-in-pytorch-backwar

白首作舟·2022-12-24 15:49

pytorch学习笔记1-创建tensor（张量，多维数组）

创建Tensor（张量，多维数组）整体程序如下importtorch"""1.创建tensor(张量,多维数组)"""'1.1创建⼀个5x3的未初始化的Tensor'x=torch.empty(5,3)print(x)'1.2创建⼀个5x3的随机初始化的Tensor范围(0,1)'x=torch.rand(5,3)print(x)'1.3创建⼀个5x3的long型全0的Tensor'x=torch

奥利奥好吃呀·2022-12-24 15:18

Pytorch学习笔记(八)----经典卷积神经网络alexnet学习与CIFAR10数据集初探

序言从本节起，将正式走入深度神经网络的大门。关于什么是alexnet、什么是cifar10自行百度。在学习卷积神经网络前，得明白什么是卷积、什么是池化。详细的解释见基础理论中提供的pdf文档。本节主要是使用cifar10数据集对alexnet进行训练，提高对测试集的检测成功率。基础理论https://pan.baidu.com/s/1yv5VIYLjoOPFEwuw1Abw2g详细代码import

oneday_某天·2022-12-24 14:57

PyTorch学习笔记-6.PyTorch的正则化

6.PyTorch的正则化6.1.正则项为了减小过拟合，通常可以添加正则项，常见的正则项有L1正则项和L2正则项L1正则化目标函数：L2正则化目标函数：PyTorch中添加L2正则：PyTorch的优化器中自带一个参数weight_decay，用于指定权值衰减率，相当于L2正则化中的λ参数。权值未衰减的更新公式：权值衰减的更新公式：下面，分别通过不添加L2正则与添加L2正则进行比较：代码实现：#-

ruoqi23·2022-12-24 14:25

PyTorch学习笔记（28） BN LN IN GN

WhyNormalizationInternalCovariateShift(ICS):数据尺度/分布异常，导致训练困难H11=∑i=0nXi∗W1iD(H11)=∑i=0nD(Xi)∗D(W1i)=n∗(1∗1)=n\begin{aligned}\mathrm{H}_{11}=&\sum_{i=0}^{n}X_{i}*W_{1i}\\\mathrm{D}\left(\mathrm{H}_{11}

TongYixuan_LUT·2022-12-24 14:53

Pytorch学习系列之十二：OpenCV（C++）加载onnx分类模型进行推理

1前言博客Pytorch学习系列之九：OpenCV加载onnx模型进行推理_thequitesunshine007的博客-CSDN博客_opencv加载onnx记载了python版本opencv加载onnx

thequitesunshine007·2022-12-24 06:35

PyTorch学习笔记-2.PyTorch数据处理

2.PyTorch数据处理2.1.数据读取机器学习模型训练步骤分为：数据，模型，损失函数，优化器，迭代训练首先是数据，又可以分为：数据收集，数据划分，数据读取，数据预处理DataLoader就是用来进行数据读取的。torch.utils.data.DataLoader功能：构建可迭代的数据装载器•dataset:Dataset类，决定数据从哪读取及如何读取•batchsize:批大小•num_wo

ruoqi23·2022-12-23 14:35

Pytorch使用ReduceLROnPlateau来更新学习率

https://www.emperinter.info/2020/08/05/change-leaning-rate-by-reducelronplateau-in-pytorch/缘由自己之前写过一个Pytorch

emperinter·2022-12-23 12:12

【Pytorch学习】第二章：张量数学运算

文章目录前言：20天吃掉pytorch——学习解读思维导图一、标量运算1.基本运算2.布尔运算3.高级运算二、向量运算1.统计计算2.cum扫描3.张量排序三、矩阵运算四、任意张量运算：torch.einsum1.普通范例2.高级范例2.1考虑到batch的双线性变换2.2考虑到batch的multihead_attention计算注意力五、广播机制总结前言：20天吃掉pytorch——学习解读本

大文豪Zdao032·2022-12-23 11:28

pytorch学习笔记之GRU

一般RNN的输入为XXX和历史状态ht−1h_{t-1}ht−1，输出为当前状态hth_tht和输出YYY。在GRU中，首先计算得到两个门控信号，分别用于控制重置和更新，用sigmoid函数将输入映射到0-1之间，作为该信息的重要性分数，之后通过哈达玛乘积的方式对数据进行重要性控制。越重要的数据权重越大，留下的就越多。reset_gate:r=σ(Wr(Xt∣∣Ht−1))update_gate:

小卜妞~·2022-12-23 08:27

pytorch学习记录1-torch.max及torch.unsqueeze()的用法

1.torch.max(x,0)：返回一列里的最大值及对应的索引。2.torch.max(x,1):返回一行里的最大值及对应的索引。3.torch.unsqueeze(input,dim):指定一个dim的位置插入一个维度为1的tensor4.torch.cat((a,b),dim=0):将a，b按0维度（行）拼接，torch.cat((a,b),dim=1):将a，b按1维（列）度拼接，例子：>

All is well123·2022-12-22 17:42

pytorch学习13：实现LetNet和学习nn.Module相关基本操作

用pytorch实现经典的LeNet网络。网络结构图：模型建立代码LeNet包含如下层：二维卷积层([32,32]→[6,28,28])([32,32]\rightarrow[6,28,28])([32,32]→[6,28,28])，激活函数relurelurelu池化层(→[6,14,14])(\rightarrow[6,14,14])(→[6,14,14])二维卷积层(→[16,10,10])

HMTT·2022-12-22 12:37

pytorch学习14：使用CIFAR10数据训练LetNet模型

工具方法和一些设置这里有一个帮助显示图片的方法和解决图片不显示问题的设置。###一些工具方法importmatplotlib.pyplotaspltimportnumpyasnp#如果不加则会出现如下错误，且不会显示图片#Error#15:Initializinglibiomp5md.dll...importosos.environ['KMP_DUPLICATE_LIB_OK']='TRUE'de

HMTT·2022-12-22 12:37

[pytorch学习笔记] 7. 优化模型参数，模型保存和加载

目录优化模型参数超参数优化循环损失函数优化器模型保存和加载保存和加载模型权重使用形状保存和加载模型优化模型参数现在我们有了模型和数据，是时候通过优化我们的数据上的参数来训练、验证和测试我们的模型了。训练模型是一个迭代过程；在每次迭代（称为epoch）中，模型对输出进行猜测，计算猜测中的误差（损失），收集误差相对于其参数的导数，并优化这些参数使用梯度下降。Weloadthecodefromthepr

是安澜啊·2022-12-22 10:48

Pytorch学习笔记(2)——to(device)无法将数据放到GPU上

目录1问题来源2解决方案1问题来源我删除了无关代码，只放出错的部分device=torch.device('cuda'iftorch.cuda.is_available()else'cpu')train_iter=Data.DataLoader(train_dataset,batch_size=batch_size,shuffle=True,drop_last=True)model=RNNSa(3

野指针小李·2022-12-22 08:27

pytorch学习(小土堆)

b站小土堆的pytorch教学视频，实在是太好了。不光教代码的语法功能，更重要的是教你看pytorch官网。本文作为学习笔记，将小土堆提供的GPU训练代码进行详解分析，(因为这个案例基本上综合了小土堆前面讲过的所有内容)防止自己忘了。可以随时查看。代码importtorchimporttorchvisionfromtorch.utils.tensorboardimportSummaryWriter

111111111112454545·2022-12-22 01:01

【Pytorch学习笔记】11.取Dataset的子集、给Dataset打乱顺序的方法（使用Subset、random_split）

（pytorch版本：1.2）文章目录Dataset取子集、拆分打乱Dataset内数据的顺序随机拆分Dataset我们在使用Dataset定义好数据集后，在处理数据集时经常会碰到这些问题：如何把Dataset拆分成两个子集（如用于指定训练集和测试集、k折交叉验证等）？如何进行随机拆分？如何打乱一个Dataset内数据的顺序？Dataset取子集、拆分使用torch.utils.data.Subs

takedachia·2022-12-21 12:32

pytorch学习———numpy基础

1、获取数据方式一：通过random.choice函数从指定的样本中随机抽取数据importnumpyasnpfromnumpyimportrandomasnra=np.arange(1,25,dtype=float)//arange函数与python里的range函数一样用法，左闭右开；c1=nr.choice(a,size=(3,4))#size指定输出数组形状c2=nr.choice(a,s

别摆了，张同学·2022-12-20 21:15

pytorch学习笔记-----自然语言处理词向量

问题：文本数据不能直接输入神经网络,用词频统计没有位置顺序信息词向量模型-Word2Vec1.词向量可以记录位置信息2.词向量可以将同义此归为同一个向量例如:红，red3.同类应该在相近的位置例如:篮球，排球维数一般为特征：比如说：一根笔的长度，宽度，颜色等这些都为一个维度我们可以通过算距离来计算相似度个人理解：整个流程就是把词生成词向量，词向量表是随机初始化的，训练的过程就是要更新他的词向量，使

cvks·2022-12-20 21:15

PyTorch学习

学习资料：开源组织DataWhale整理的《深入浅出PyTorch》教程写作目的：记录教程中自己觉得重要的和不熟悉的地方。第一章PyTorch的简介和安装1.1PyTorch简介PyTorch是由Facebook人工智能研究小组开发的一种基于Lua编写的Torch库的Python实现的深度学习库。1.1.1PyTorch的发展PyTorch会借助ONNX所带来的落地能力在工业界逐渐走向主导地位。待

Tortoiseshell·2022-12-20 21:44

Pytorch学习率lr衰减(decay)(scheduler)(一)——(LambdaLR&StepLR&MultiStepLR&ExponentialLR&ReduceLROnPlateau )

1、手动修改optimizer中的lrimportmatplotlib.pyplotaspltfromtorchimportnnimporttorchclassNet(nn.Module):def__init__(self):super(Net,self).__init__()self.net=nn.Linear(10,10)defforward(self,input):out=self.net(

hxxjxw·2022-12-20 18:37

Pytorch学习笔记（一）——自动求导和叶子节点

一、什么是叶子节点PyTorch中的张量tensor有一个属性是is_leaf，当is_leaf为True时，改tensor是叶子张量，也叫叶子节点。二、叶子节点的作用PyTorch有自动求导的功能，当requires_grad=True时，PyTorch会自动记录运算过程，缓存运算中的中间参数，为自动求导做准备。但是只有is_leaf=True和requires_grad=True同时满足时，才

Candyerer·2022-12-20 12:00

PyTorch学习日记（二）

跟着唐宇迪pytorch学习的第二天，今天要用pytorch搭建神经网络进行气温预测。

什么时候点菜·2022-12-20 12:06

1.pytorch学习:安装pytorch

目录安装pytorch检查pytorch安装是否成功总结安装pytorch官方网址：StartLocally|PyTorchhttps://pytorch.org/get-started/locally/官网的conda安装方式，没有指定各种组件的版本，因为好多算法是规定了pytorch版本，这种可读性不高的命令行安装方式我没有采取。我采取的是找到之前的版本，但是要求他比较新，因为算法在迭代，py

机械专业的计算机小白·2022-12-20 09:58

【pytorch】学习系列文章

系列文章目录提示：记录pytorch学习过程中的困惑第一章Pytorchadd和concat的区别文章目录系列文章目录@[TOC](文章目录)前言一、Pytorch的add和concat？

weixin_40293999·2022-12-20 02:02

PyTorch学习（二）os

先要装载os模块importosprintos.getcwd()os.listdir()函数：用于返回指定的文件夹包含的文件或文件夹的名字的列语法：os.listdir(path）参数：path–需要列出的目录路径返回值：返回指定路径下的文件和文件夹列表。os.path.join()用于路径拼接文件的路径os.path模块主要用于文件的属性获取,exists是“存在”的意思，所以顾名思义，os.p

碧寒·2022-12-19 18:03

Pytorch特征提取

pytorchfinetuning自己的图片进行行训练：https://blog.csdn.net/xiexu911/article/details/81227126Pytorch学习笔记（I）——预训练模型

zhangyuexiang123·2022-12-19 18:45

Pytorch学习(二)Conv2d卷积

函数功能为在由多个输入平面组成的输入信号上应用二维卷积。https://pytorch.org/docs/stable/generated/torch.nn.Conv2d.html#torch.nn.Conv2d函数原型torch.nn.Conv2d(in_channels,out_channels,kernel_size,stride=1,padding=0,dilation=1,groups=

liu_jie_bin·2022-12-19 17:50

torch.unsqueeze()函数解析《pytorch学习》

引言：此函数常用于维度计算当中，网络搭建过程中，在下不才，将此函数理解为维度加一函数，也就是扩充在原来基础上再扩充一个一维维度的函数。如果在引言部分你只是懵懵懂懂，那下面就展示几个通俗易懂的例子吧！（默认情况下，图像的一般表述为（C*W*H）其中C代表通道数，C就是常说的三RGB通道，W代表的是图像的宽度，H代表图像的高度，下面以这个讲解）数据库导入：importtorchfromPILimpor

桀骜不驯的山里男人·2022-12-19 15:44

PyTorch学习笔记（八）-------------- 多模态融合

目录一、什么是多模态二、为什么选用多模态三、如何实现多模态3.1、平衡融合3.2、加权融合3.3、堆叠融合3.4、注意力机制3.5、双向循环神经网络（Bi-LSTM）一、什么是多模态多模态指的是由不同信息源提供的多种信息表示方式。这些信息表示方式可以是文本、图像、声音、视频等。多模态信息的处理是许多人工智能应用的关键。例如，在视频分类任务中，我们可能希望利用视频的音频和视频轨道信息来判断视频的内容

清忖灬·2022-12-19 12:37

PyTorch学习笔记

文章目录神经翻译笔记5扩展d.PyTorch学习笔记PyTorch与张量自动微分简介示例进一步的数学解释示例2.

TimsonShi·2022-12-19 00:39

torch.nn

https://www.jianshu.com/p/343e1d994c39pytorch学习（九）—基本的层layershttps://www.cnb

weixin_39450145·2022-12-19 00:06

2020-10-13-PyTorch官方教程翻译3-WHAT IS TORCH.NN REALLY?

layout:posttitle:PyTorch学习3subtitle:WHATISTORCH.NNREALLY?

iozh·2022-12-19 00:35

PyTorch学习笔记(3)

PyTorch学习笔记(3)文章目录PyTorch学习笔记(3)0本文来历1PyTorch作为框架，向使用者提供了什么？

CarnivoreRabbit·2022-12-19 00:29

torch 默认参数初始化_PyTorch学习系列(九)——参数_初始化

from：http://blog.csdn.net/VictoriaW/article/details/72872036那么如何在pytorch里实现呢。PyTorch提供了多种参数初始化函数：torch.nn.init.constant(tensor,val)torch.nn.init.normal(tensor,mean=0,std=1)torch.nn.init.xavier_uniform

川口·2022-12-18 13:45

pytorch学习笔记十四：TensorBoard

一、TensorBoard的简介与安装TensorBoard是Tensorflow中强大的可视化工具，支持标量、图像、文本、音频和Embedding等多种数据可视化。可以在模型的训练过程中绘制loss曲线，监控模型的训练效果，也可以对模型的参数分布，数据分布，图像、音频等各种数据的可视化。下面是TensorBoard的一个界面：TensorBoard是如何显示这个界面的呢？下面来看一下Tensor

Dear_林·2022-12-18 13:09

推荐频道

Pytorch学习