-pytorch 第109页

PyTorch 入坑九：权重初始化

这里写目录标题Pytorch提供的十种权值初始化方法为什么要进行权重初始化设计：从梯度消失与爆炸说起常用的几种权重初始化方法不考虑激活函数饱和型激活函数xavier_uniform方法非饱和型激活函数KaimingPytorch

龙俊杰的读书笔记·2023-11-07 05:46

pytorch初始化权重方法总结

importtorch.nnasnnimporttorchclassNet(nn.Module):def__init__(self):super().__init__()self.conv1=nn.Conv2d(3,3,(3,3),stride=(1,1),padding=1)self.bn1=nn.BatchNorm2d(3)self.relu=nn.ReLU()defforward(self,

一子慢·2023-11-07 05:16

Pytorch 默认参数初始化

Pytorch默认参数初始化当网络模型定义好之后，可以不用专门进行网络初始化，Ｐytorch采用的默认的初始化方式进行网络初始话：https://blog.csdn.net/luo3300612/article

Mariooooooooooo·2023-11-07 05:46

pytorch: 网络权重初始化

构建完网络后，往往需要初始化权重；其实也可以不需手动初始化，在声明网络时，pytorch有默认的初始化方式，如：importtorchx=torch.Tensor(2,2)print(x)输出为：tensor

傲笑风·2023-11-07 05:14

Pytorch 快速参数权重初始化

定义一个函数：这里比如要初始化2维卷积权重值，采用xaiver数据分布，还有很多其他的数据分布可以探索defweights_init(m):ifisinstance(m,nn.Conv2d):xavier(m.weight.data)xavier(m.bias.data)然后定义一个含2维卷积的网络，并对该网络中的2维卷积层权重进行初始化操作。net=Residual()#generateanin

张哥coder·2023-11-07 05:12

pytorch直线拟合

目录1、数据分析2、pytorch直线拟合1、数据分析直线拟合的前提条件通常包括以下几点：存在线性关系：这是进行直线拟合的基础，数据点之间应该存在一种线性关系，即数据的分布可以用直线来近似描述。

老歌老听老掉牙·2023-11-07 05:46

Python 深度学习实战：风格迁移

本文将介绍基于PyTorch实现的

Python轩·2023-11-07 05:34

【阅读笔记】时间序列之TPA-LSTM(含Pytorch代码实现)

论文地址：https://arxiv.org/abs/1809.04206TPA-LSTM一.全文总结二.研究方法三.结论四.创新点五.思考六.参考文献七.Pytorch实现⭐util(工具函数)ModelLoadDataTrain

卡卡南安·2023-11-07 04:12

pytroch、tensorflow对比学习—搭建模型范式（构建模型方法、训练模型范式）

搭建模型范式（构建模型方法、训练模型范式）前言本文是《pytorch-tensorflow-Comparativestudy》，pytorch和tensorflow对比学习专栏，第四章——搭建模型范式（

卖香油的少掌柜·2023-11-07 03:06

【Transformers-实践2】——Bert-CRF用于英语平坦实体（Flat NER）识别

我用的是Pytorch，虽然代码比较简单，但还是附上地址：https://github.com/zuochao912/Bert_CRF。

应有光·2023-11-06 22:45

nn.embedding函数详解(pytorch)

提示：文章附有源码！！！文章目录前言一、nn.embedding函数解释二、nn.embedding函数使用方法四、模型训练与预测的权重变化探讨前言最近发现prompt工程(如sam模型)，也有transform的detr模型等都使用了nn.Embedding函数，对points、boxes或learnquery进行编码或解码。因此，我想写一篇文章作为记录，本想简单对其介绍，但写着写着就想把所有与

tangjunjun-owen·2023-11-06 22:12

self.register_buffer方法使用解析(pytorch)

self.register_buffer就是pytorch框架用来保存不更新参数的方法。

tangjunjun-owen·2023-11-06 22:06

pytorch与cudatoolkit,cudnn对应关系及安装相应的版本

文章目录一.cuda安装二、nvidia驱动和cudaruntime版本对应关系三、安装cudatoolkit,cudnn对应版本四、cuda11.2版本的对应安装的pytorch版本及安装五、相关参考一

玖玖玖柒染·2023-11-06 21:10

小白也能学，从0到部署yolov5教程，Windows Linux PC arm Jeston全平台部署-(上)

MsnhnetModelZoohttps://github.com/msnh2012/Msnhnethttps://github.com/msnh2012/CasiaLabeler准备工作1.安装配置Cuda,Cudnn,Pytorch

穆士凝魂·2023-11-06 21:45

vscode添加pytorch

效果如下首先到pytorch官网，找到适合自己的类型，我的GPU是amd的，不是英伟达的，所以只能用cpu的，只能学习用，如果是用gpu，则下载CUDA，然后复制这个pip但是这个是外网，下不了，然后用镜像

赛亚超·2023-11-06 21:40

pytorch神经网络工具箱

PyTorch神经网络工具箱3.1神经网络核心组件1）层：神经网络的基本结构，将输入张量转换为输出张量2）模型：层构成网络3）损失函数：参数学习的目标函数，通过最小化损失函数来学习各种参数4）优化器：如何使损失函数最小

为啥不能修改昵称啊·2023-11-06 19:01

使用 PyTorch 数据读取，JAX 框架来训练一个简单的神经网络

使用PyTorch数据读取，JAX框架来训练一个简单的神经网络本文例程部分主要参考官方文档。

Adenialzz·2023-11-06 19:01

PyTorch编写神经网络模型训练三分类问题

目录一、神经网络模型代码架构二、数据处理和加载三、定义神经网络模型四、定义优化器和损失函数五、定义训练函数一、神经网络模型代码架构数据处理和加载：将数据集准备好，并且使用PyTorch中的DataLoader

挽风起苍岚·2023-11-06 19:01

PyTorch入门学习（十五）：现有网络模型的使用及修改

目录一、使用现有的深度学习模型二、修改深度学习模型结构三、直接修改深度学习模型的结构一、使用现有的深度学习模型在深度学习中，许多流行的深度学习框架（如PyTorch和TensorFlow）提供了一系列现成的深度学习模型

不吃花椒的兔酱·2023-11-06 19:31

PyTorch入门学习（十六）：网络模型的保存与读取

目录一、使用预训练模型二、修改预训练模型的层内容三、保存和加载模型一、使用预训练模型PyTorch提供了许多预训练的深度学习模型，如VGG、ResNet、Inception等。

不吃花椒的兔酱·2023-11-06 19:31

使用Pytorch手动搭建两层神经网络

使用PytorchTensor来构建一个两层神经网络，和numpy方式想像，但是只能在GPU上运行一、定义数据集和网络权重importtorchdtype=torch.FloatTensor#让dtype

长安study·2023-11-06 19:30

[pytorch]手动构建一个神经网络并且训练

0.写在前面上一篇博客全都是说明类型的,实际代码能不能跑起来两说,谨慎观看.本文中直接使用fashions数据实现softmax的简单训练并且完成结果输出.实现一个预测并且观测到输出结果.并且更重要的是,在这里对一些训练的过程,数据的形式,以及我们在softmax中主要做什么以及怎么做来进行说明.前提要求:一些数据包的需求先写在这里了,根据pip3进行按照需求下载即可importtorchimpo

ViceMusic5·2023-11-06 19:00

pytorch3D Win10 conda 安装 cuda 10.2+pytorch 1.7.1

于是在youtube上看到了关于pytorch3d的宣传片，觉得利用人家成熟的example学习是一个捷径。但没想到单是安装一环就装吐了。

胡写含·2023-11-06 17:36

pytorch面试总结

一.pytorch多卡训练的原理原理：（1）将模型加载到一个指定的主GPU上，然后将模型浅拷贝到其它的从GPU上；（2）将总的batch数据等分到不同的GPU上（坑：需要先将数据加载到主GPU上）；（3

我的技术学习小站·2023-11-06 17:29

MacBook M1 32G配置大语言模型

得益于苹果Arm框架统一内存的优势，而且Tensorflow和Pytorch都已适配Arm，在MacBook上得以较低的代价部署一

auto_star·2023-11-06 16:27

pytorch实现 --- 手写数字识别

文章分类在Pytorch：Pytorch（1）---《pytorch实现---手写数字识别》pytorch实现---手写数字识别目录1.项目介绍2.实现方法3.程序代码4.运行结果1.项目介绍使用pytorch

不去幼儿园·2023-11-06 15:13

【深度学习】pytorch——神经网络工具箱nn

笔记为自我总结整理的学习笔记，若有错误欢迎指出哟~深度学习专栏链接：http://t.csdnimg.cn/dscW7pytorch——神经网络工具箱nn简介nn.Modulenn.Module实现全连接层

今天有没有吃饱饱·2023-11-06 15:17

一起来学PyTorch——Autograd反向传播

在计算机视觉的深度学习中，Tensor数据可以完成前向传播，想要完成整套的神经网络的训练，还需要反向传播和梯度更新，而PyTorch提供了自动求导机制autograd。

AI葱花868·2023-11-06 15:09

【深度学习】pytorch——Autograd

笔记为自我总结整理的学习笔记，若有错误欢迎指出哟~深度学习专栏链接：http://t.csdnimg.cn/dscW7pytorch——AutogradAutograd简介requires_grad计算图没有梯度追踪的张量

今天有没有吃饱饱·2023-11-06 15:38

第九周实验记录

cuda11.7pipuninstalltorchtorchvisionfunctorchpipinstalltorch==1.13.1torchvisionfunctorch--extra-index-urlhttps://download.pytorch.org

川河w·2023-11-06 13:00

（一）PyTorch 中的基本概念_Tensor 与 Variable

参考内容本章代码：https://github.com/zhangxiann/PyTorch_Practice/blob/master/lesson1/tensor_introduce1.py1.1PyTorch

sunshinecxm_BJTU·2023-11-06 12:29

第二课.PyTorch入门

什么是PyTorchPytorch是一个基于Python的科学计算库，类似于Numpy，但可以使用GPU，可灵活开展深度学习实验，其数据结构tensor类似于ndarray，但tensor可以在GPU上加速运算

tzc_fly·2023-11-06 12:29

pytorch每日一学19(torch.ones()与torch.ones_like())创建全为1的tensor

第19个方法其实接下来这两个方法和我前面的torch.zeros()和torch.zeros_like()是完全相似的，只是一个创建全1，一个创建全0，所以大家可以仿照前面即可。torch.ones(*size,*,out=None,dtype=None,layout=torch.strided,device=None,requires_grad=False)->Tensortorch.ones_

Fluid_ray·2023-11-06 12:26

pytorch每日一学18(torch.zeros_like())创建与指定tensor形状相等的全0tensor

第18个方法torch.zeros_like(input,*,dtype=None,layout=None,device=None,requires_grad=False,memory_format=torch.preserve_format)—>tensor此方法返回一个与input形状相等的，并且用标量值填充0填充的全0tensor。torch.zeros_like(input)与torch.

Fluid_ray·2023-11-06 12:26

PyTorch 矩阵乘法总结

torch.dottorch.multorch.mmtorch.bmmtorch.matmul*,@torch.dot()点乘a,b矩阵对应元素相乘，再相加，但只支持1-Dtensor相乘In[11]:torch.dot(torch.tensor([2,3]),torch.tensor([2,1]))Out[11]:tensor(7)torch.mul()a,b矩阵对应位置元素相乘，ab的shap

IAS-01·2023-11-06 12:23

pytorch矩阵的乘法

在用pytoch搭建深度学习模型时，矩阵的乘法必不可少，下面介绍四种方法来实现矩阵的乘法importtorcha=torch.randn(3,4)#建立一个3*4的张量b=torch.randn(4,3)#建立一个4*3的张量print(torch.mm(a,b))#1，矩阵乘法，调用函数，返回3*3的矩阵乘积print(a.mm(b))#2，矩阵乘法，内置方法，返回3*3的矩阵乘积print(a

CrystalheartLi·2023-11-06 12:52

python 和 pytorch中的矩阵乘法

python矩阵有两种形式：array和matrix对象，本篇文章主要介绍np.array()和np.mat()这两种类型矩阵做乘法时的异同这两种数据类型均有三种操作方式：乘号*np.dot()或@np.multiply()np.array()类型a=np.array([[1.,2.],[3.,4.]])b=np.array([[1.,2.],[3.,4.]])#对应位置元素做乘法c_1=a*b[

Da_Shan_·2023-11-06 12:22

pytorch----矩阵乘法

理论:向量:一行乘以一列:内积:结果一个数一列乘以一行:外积:结果一个矩阵矩阵:点乘:*,mul:对应元素相乘叉乘:dot,matmul:矩阵乘法(而矩阵乘法又可以理解为向量内积,外积的结合体)传统的矩阵乘法可以看成:行向量组成一列,列向量组成一行关于广播机制的补充说明:广播机制是用在对应元素的:加,减,乘,除能够进行广播机制的条件:有一维为1少了一个维度广播机制的法则:高维矩阵乘法:保证前n-2

无意识积累中·2023-11-06 12:51

pytorch中的乘法总结

一、简介点积（数量积，dotproduct）点积（数量积，dotproduct）点积（数量积，dotproduct）二、用法1.点积（torch.dot()）即数量积，对应相乘然后求和。torch.dot(input,other,*,out=None)→Tensor#输入的两个张量必须为1维的。和numpy的dotproduct不同，numpy的点积支持二维矩阵运算，但是得到的是矩阵积（即按照矩阵

要坚持写博客呀·2023-11-06 12:51

《动手学深度学习 Pytorch版》 3.3 线性回归的简洁实现

importnumpyasnpimporttorchfromtorch.utilsimportdatafromd2limporttorchasd2lfromtorchimportnn#nn是神经网络（NeuralNetworks）的缩写3.3.1生成数据集true_w=torch.tensor([2,-3.4])#与上一节类似生成数据集true_b=4.2features,labels=d2l.s

AncilunKiang·2023-11-06 12:50

pytorch矩阵乘法

*#对应元素相乘a*b.mul#对应元素相乘torch.mul(a,b).mm#矩阵相乘torch.mm(a,b).matmul#矩阵相乘torch.matmul(a,b)

zz__2020·2023-11-06 12:49

Pytorch：矩阵乘法总结

1、矩阵相乘（1）二维矩阵乘法：torch.mm(mat1,mat2,out=None)→Tensor该函数一般只用来计算两个二维矩阵的矩阵乘法，并且不支持broadcast操作。代码例子：对应行列乘In[30]:mat1=t.Tensor([[1,2,3],[2,3,4]])...:mat2=t.Tensor([[1,2,3],[2,3,4],[3,4,5]])...:t.mm(mat1,mat

三世·2023-11-06 12:19

Transformer的最简洁pytorch实现

目录前言1.数据预处理2.模型参数3.PositionalEncoding4.PadMask5.SubsequenceMask6.ScaledDotProductAttention7.MultiHeadAttention8.FeedForwardNetworks9.EncoderLayer10.Encoder11.DecoderLayer12.Decoder13.Transformer14.训练1

向日梦想家·2023-11-06 12:47

pytorch中的矩阵乘法

1.运算符介绍关于@运算，*运算，torch.mul(),torch.mm(),torch.mv(),tensor.t()@和*代表矩阵的两种相乘方式：@表示常规的数学上定义的矩阵相乘；*表示两个矩阵对应位置处的两个元素相乘。1.1矩阵点乘*和torch.mul()等同:表示相同shape矩阵点乘，即对应位置相乘，得到矩阵有相同的shape。一，对应点相乘，x.mul(y)，即点乘操作，点乘不求和

mingqian_chu·2023-11-06 12:17

基于pytorch的神经网络与对比学习CL的训练示例实战和代码解析

目录对比学习原理解析构建一个对比学习模型（代码详解）导入库构建简单的神经网络构建对比学习的损失函数开始训练完整代码对比学习原理解析对比学习（ContrastiveLearning）是一种无监督学习方法，用于从未标记的数据中学习表示。它的目标是通过将相似样本靠近并将不相似样本分开来学习有意义的表示。对比学习的核心思想是通过最大化相似样本之间的相似性，并最小化不相似样本之间的相似性来训练模型。具体而言

_刘文凯_·2023-11-06 11:32

Pytorch-Encoding安装

较新版本的pytorch不支持要求python>=3.8condacreate-ntorch1.4python=3.8sourceactivatetorch1.4condainstallpytorch=

Catmull·2023-11-06 10:19

Conda 常用命令

切换环境condainfo--envsactivatetensorflow-gpu在linux环境下切换环境：sourceactivatePytorch删除环境condaremove-nyour_env_name