反向传播

零基础-动手学深度学习-6.6 卷积神经网络（LeNet）

本节将介绍LeNet,它是最早发布的卷积神经网络之一，于80年代发明的为了识别手写数字，LeCun发表了第一篇通过反向传播成功训练卷积神经网络的研究！6.6.1.LeNet我这里改了一下28-32

生医转码，四海为家·2025-07-27 17:14

60、深度学习的发展历程和应用领域【用Python进行AI数据分析进阶教程】

从20世纪40年代的神经网络起源，到80年代反向传播算法的提出，再到21世纪初因数据爆炸和计算能力提升而复兴，深度学习经历了多个重要阶段。

理工男大辉郎·2025-07-25 18:27

pytorch.反向传播算法和优化器

在训练神经网络时，最常见的算法就是反向传播为了支持反向传播，pytorch有一个内置的分类引擎，叫做TORCH.AUTOGRADimporttorchx=torch.ones(5)#inputtensory

LyaJpunov·2025-07-24 16:02

反向传播、优化器、模型的训练

反向传播、优化器、模型的训练1.什么是反向传播在我们从输入层对数据进行一系列的操作，包括特征提取、函数激活、维度变换等，从输入层到输出层的各种变换可以称为前向传播。

啥都想学的大学生·2025-07-24 16:31

20250108-实验+神经网络（实现见绑定资源）

实验3.神经网络与反向传播算法（实现见绑定资源）3.1计算图：复合函数的计算图实验要求1：基于numpy实现(y1,y2)=f(x1,x2,x3)(y_1,y_2)=f(x_1,x_2,x_3)(y1,

陈晨辰熟稳重·2025-07-24 06:57

人工神经网络的拓扑结构,神经网络的神经元结构

它的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。BP神经

快乐的小蓝猫·2025-07-22 16:51

微算法科技技术突破：用于前馈神经网络的量子算法技术助力神经网络变革

这一创新性的量子算法以经典的前馈和反向传播算法为基础，借助量子计算的强大算力，极大提升了网络训练和评估效率，并带来了对过拟合的天然抗性。前馈神经网络是深度学习的核心架构，广泛应用于图像分类、

MicroTech2025·2025-07-19 13:26

pytorch 自动微分

**反向传播**1.4.

this_show_time·2025-07-10 19:47

【AI大模型】神经网络反向传播：核心原理与完整实现

一、反向传播的本质与意义反向传播（Backpropagation）是神经网络训练的核心算法，通过链式法则高效计算损失函数对网络参数的梯度，实现神经网络的优化学习。

我爱一条柴ya·2025-07-08 18:00

反向传播神经网络极简入门

单个神经元神经网络是多个“神经元”（感知机）的带权级联，神经网络算法可以提供非线性的复杂模型，它有两个参数：权值矩阵{Wl}和偏置向量{bl}，不同于感知机的单一向量形式，{Wl}是复数个矩阵，{bl}是复数个向量，其中的元素分别属于单个层，而每个层的组成单元，就是神经元。神经元神经网络是由多个“神经元”（感知机）组成的，每个神经元图示如下：这其实就是一个单层感知机，其输入是由和+1组成的向量，其

自信哥·2025-07-07 15:46

【深度学习】一文彻底搞懂前向传播（Forward Pass）与反向传播（Backward Pass）

【深度学习】一文彻底搞懂前向传播（ForwardPass）与反向传播（BackwardPass）摘要：在深度学习的星辰大海中，无论模型多么复杂，其训练过程都离不开两大核心支柱：前向传播(ForwardPass

烟锁池塘柳0·2025-07-05 19:49

Python Day53

传统的神经网络训练中，我们通常会直接定义一个损失函数（如均方误差MSE、交叉熵CE），然后通过反向传播来优化这个损失。这个损失的“来源”

别勉.·2025-07-03 07:56

Instrct-GPT 强化学习奖励模型 Reward modeling 的训练过程原理实例化详解

（2）InstructGPT的优化方案二、输入输出与损失函数的具体构造（1）输入输出示例（2）人工标注数据的处理（3）损失函数的计算过程（4）反向传播的核心逻辑三、为什么不需要人工标注分值？

John_今天务必休息一天·2025-07-03 06:19

educoder机器学习 --- 神经网络

(x):'''x:负无穷到正无穷的实数'''#*********Begin*********#ifx<=0:return0else:returnx#*********End*********#第3关：反向传播算法

木右加木·2025-07-02 05:46

[由浅入深理解神经网络] 2 张量流与反向传播

由浅入深理解神经网络2张量流与反向传播0前言1张量流和运算图2复合函数视角2.1复合函数求导2.1.1链式法则2.1.2多元函数的链式法则2.2前馈网络的反向传播2.3任意网络的反向传播3结语0前言在由浅入深理解神经网络

·2025-07-02 01:47

【AI】AI大模型发展史：从理论探索到技术爆发

80年代连接主义AI兴起，以神经网络为核心，反向传播算法的提出为深度学习奠定基础。

不想当程序汪的第N天·2025-07-01 21:44

从零开始大模型开发与微调：PyTorch中的卷积函数实现详解

框架简介2.核心概念与联系2.1卷积的数学定义2.2卷积神经网络的组成2.2.1卷积层2.2.2池化层2.2.3全连接层2.3卷积与大模型的关系3.核心算法原理具体操作步骤3.1卷积的前向传播3.2卷积的反向传播

AI天才研究院·2025-07-01 13:50

深入理解 PyTorch 中的自动微分机制与 `.detach()` 用法全解析

作者：Accelemate发布时间：2025年6月26日本文摘要：本文将从零开始，系统性地讲解PyTorch中的计算图、反向传播、withtorch.no_grad()、.detach()等核心机制，结合实践场景如可视化中间层特征图

Accelemate·2025-07-01 13:49

【锂电池SOC估计】 Matlab基于BP神经网络的锂电池SOC估计

本文提出了一种基于反向传播(BackPropagation,BP)神经网络的锂电池SO

天天Matlab代码科研顾问·2025-06-30 23:21

分类预测 | MATLAB实现BP神经网络多特征分类预测

在众多人工智能算法中，反向传播神经网络（BackPropagationNeuralNetwork,BP神经网络）凭借其强大的非

matlab科研社·2025-06-30 23:50

【机器学习&深度学习】前馈神经网络（单隐藏层）

四、NumPy实现前馈神经网络代码示例五、运行结果六、代码解析6.1初始化部分6.2前向传播6.3计算损失（Loss）6.4反向传播（手动）6.5更新参数（梯度下降）6.6循环训练七、训练过程可视化（思维图

一叶千舟·2025-06-29 08:59

Class00.4自动求导代码

4.0)x#支持梯度计算x.requires_grad_(True)#计算梯度x.grad#计算向量点积#torch.dot(a,b):向量点积计算y=2*torch.dot(x,x)#打印结果y#进行反向传播

Morning的呀·2025-06-29 04:59

【机器学习&深度学习】反向传播机制

四、用生活例子解释：神经网络=烹饪机器人4.1第一步：尝一口（前向传播）4.2第二步：倒着推原因（反向传播）五、换成人工智能流程说一遍六、图示类比：找山顶（最优参数）七、总结一句人话八、PyTorch代码示例

·2025-06-28 14:47

误差的回响：反向传播算法与神经网络的惊天逆转

当专家系统在20世纪80年代初期大放异彩，成为人工智能实用化的耀眼明星时，另一股曾经被宣判“死刑”的力量——连接主义（神经网络）——正在寒冬的冻土下悄然涌动，孕育着一场惊天动地的复苏。马文·明斯基和西摩·帕尔特在1969年《感知机》专著中那精准而冷酷的理论批判，如同沉重的封印，将多层神经网络的研究禁锢了近二十年。他们指出的核心死结——缺乏有效算法来训练具有隐藏层的网络——仿佛一道无法逾越的天堑。单

田园Coder·2025-06-28 10:50

【机器学习实战】Datawhale夏令营2：深度学习回顾

深度学习＆图神经网络1.2机器学习和深度学习的关系2.深度学习的训练流程2.1数学基础2.1.1梯度下降法基本原理数学表达步骤学习率α梯度下降的变体2.1.2神经网络与矩阵网络结构表示前向传播激活函数反向传播批处理卷积操作参数更新优化算法正则化初始化

城主_全栈开发·2025-06-28 00:17

深入理解AI人工智能深度学习的原理架构

详细讲解了核心算法原理，如反向传播算法，并给出Python代码示例。同时，介绍了深度学习中的数学

AI学长带你学AI·2025-06-27 06:41

使用.detach()代替requires=False避免计算图错误

youcanonlychangerequires_gradflagsofleafvariables.问题_解决对一个对象多次bp更新时造成的问题-CSDN博客代码中存在一个特征需要参与辅助损失的计算，由于需要反复进行反向传播更新

weixin_42319617·2025-06-24 17:54

【深度学习-Day 17】神经网络的心脏：反向传播算法全解析

Langchain系列文章目录01-玩转LangChain：从模型调用到Prompt模板与输出解析的完整指南02-玩转LangChainMemory模块：四种记忆类型详解及应用场景全覆盖03-全面掌握LangChain：从核心链条构建到动态任务分配的实战指南04-玩转LangChain：从文档加载到高效问答系统构建的全程实战05-玩转LangChain：深度评估问答系统的三种高效方法（示例生成、手

吴师兄大模型·2025-06-23 07:13

05、反向传播算法（Backpropagation）是如何解决了多层神经网络的参数优化问题的？

反向传播算法（Backpropagation，简称BP算法）是深度学习的核心技术之一，其通过高效计算梯度并结合梯度下降法，解决了多层神经网络参数优化的计算复杂度难题。

季截·2025-06-22 03:39

04、谁发明了深度学习的方法，是怎么发明的？

梳理深度学习方法的起源与发展脉络：一、深度学习的奠基者与关键贡献者1.GeoffreyHinton：从神经网络到深度学习的理论突破核心贡献：20世纪80年代，Hinton与DavidRumelhart等人重新引入并完善了反向传播算

·2025-06-22 03:09

神经网络中的正向传播和反向传播

反向传播与梯度下降：就像是你实际摔倒了（计算出的损失/误差），然后你分析：车子为什么会倒？是因为我身体重心偏左了（某个参数错了）？还是因为车轮打滑了（另一个参数错了）？你根据这个分析

做个专注的工程师·2025-06-21 06:54

AI人工智能深度学习入门指南：从基础到实践_副本

AI人工智能深度学习入门指南：从基础到实践关键词：人工智能、机器学习、深度学习、神经网络、梯度下降、反向传播、实战案例摘要：本文是为零基础或初级学习者打造的深度学习入门指南。

AI大模型应用实战·2025-06-18 11:07

从0开始深度学习（6）——Pytorch动态图机制（前向传播、反向传播）

PyTorch的动态计算图机制是其核心特性之一，它使得深度学习模型的开发更加灵活和高效。0计算图计算图（ComputationGraph）是一种用于表示数学表达式或程序流程的图形结构，可以将复杂的表达式分解成一系列简单的操作，并以节点和边的形式展示这些操作及其之间的关系，能够清晰地展示计算过程中的依赖关系节点（Nodes）：表示变量或常量，也可以表示操作（如加法、乘法等）。边（Edges）：表示数

青石横刀策马·2025-06-16 23:03

pytorch——自动微分

标量变量的反向传播对函数y=2xTxy=2x^Txy=2xTx关于列向量xxx求导importtorchx=torch.arange(4.0)print(f'x:{x}')x.requires_grad

·2025-06-16 23:03

Pytorch框架——自动微分和反向传播

一、自动微分概念自动微分（AutomaticDifferentiation，AD）是一种利用计算机程序自动计算函数导数的技术，它是机器学习和优化算法中的核心工具（如神经网络的梯度下降），通过反向传播计算并更新梯度

Xyz_Overlord·2025-06-16 23:31

Pytorch 学习 - 6.pytorch 张量数学-自动求取梯度

在深度学习和神经网络训练中，梯度计算是反向传播算法的核心部分，它允许我们更新模型的权重以最小化损失函数。下面是对torch.autograd.backward函数的详细解释

chenchihwen·2025-06-16 11:43

为什么在自动微分操作中要设置梯度清零

Autograd机制）中，梯度清零（通常通过optimizer.zero_grad()实现）是训练神经网络的关键步骤，主要原因如下：⚙️1.防止梯度累加导致的参数更新错误梯度累加机制：PyTorch等框架默认在反向传播时累加梯度而非覆盖

AI扶我青云志·2025-06-15 20:38

驯服不可微操作——梯度的“代理”艺术**

教程：驯服不可微操作——梯度的“代理”艺术第一部分：核心思想——计算图的“双重人格”在标准的深度学习中，前向传播和反向传播是“镜像”关系：反向传播严格地沿着前向传播的路径反向计算导数。

爱看烟花的码农·2025-06-14 04:14

Python训练第四十二天

然而，标准的前向传播和反向传播过程通常是一个黑盒，我们很难直接访问中间层的信息。PyTorch提供了一种强大的工具——hook函数，它允许我们在不修改模型结构的情况下，获

火兮明兮·2025-06-07 10:20

模型推理‌和‌模型训练的区别

数据准备涉及收集和准备训练数据集，模型训练通过多次的前向传播和反向传播来调整模型参数，以减少损失函数值。模型验证使用验证数

ly_cyz·2025-06-04 21:44

【Pytorch学习笔记】模型模块06——hook函数

它主要用于获取和修改张量在反向传播过程中的梯度。语法格

越轨·2025-06-02 16:06

神经网络-Day42

然而，标准的前向传播和反向传播过程通常是一个黑盒

红衣小蛇妖·2025-06-02 09:47

神经网络-Day39

2.3模型定义与batchsize的关系三、显存占用的主要组成部分3.1模型参数与梯度（FP32精度）3.2**优化器状态**SGDAdam3.3数据批量（batch_size）的显存占用3.4.前向/反向传播中间变量一

红衣小蛇妖·2025-06-02 09:17

机器学习/深度学习——模型的欠拟合和过拟合，正则化方法详解

convolutionalneuralnetwork）CNN详解（一）——概述.步骤清晰0基础可看深度学习——卷积神经网络（convolutionalneuralnetwork）CNN详解（二）——前向传播与反向传播过程

林采采学编程+·2025-06-01 19:09

基于Python的BP神经网络 XOR模拟器

通过构建这样一个模拟器，我们可以直观地观察到BP神经网络如何通过误差反向传播来调整权重，逐步逼近正确的分类结果。此外，

sj52abcd·2025-05-31 13:34

【动手学深度学习】2.5. 自动微分

目录2.5.自动微分1）自动微分的示例2）非标量变量的反向传播3）分离计算4）控制流的梯度计算5）小结.2.5.自动微分求导是几乎所有深度学习优化算法的关键步骤。手动求导是很繁琐且容易出错的。

XiaoJ1234567·2025-05-31 11:21

深度学习入门：从零搭建你的第一个神经网络

从零搭建你的第一个神经网络系统化学习人工智能网站（收藏）：https://www.captainbed.cn/flu文章目录深度学习入门：从零搭建你的第一个神经网络摘要引言第一章：神经网络基础原理1.1神经元模型1.2反向传播算法

layneyao·2025-05-30 07:23

第6篇：深度学习入门——神经网络基础

深度学习的微观世界三、神经网络的基本组件：构建智能的积木（一）神经元：智能的基本单元（二）权重与偏置：连接的智慧（三）激活函数：非线性的魔法（四）损失函数：衡量差距的标尺（五）优化器：攀登优化高峰的向导四、前向传播与反向传播

CarlowZJ·2025-05-30 00:59

【Python深度学习（第二版）（2）】深度学习之前：机器学习简史

文章目录一.深度学习的起源1.概率建模--机器学习分类器2.早期神经网络--反向传播算法的转折3.核方法--忽略神经网络4.决策树、随机森林和梯度提升机5.神经网络替代svm与决策树二.深度学习与机器学习有何不同可以这样说

roman_日积跬步-终至千里·2025-05-29 11:09

【深度学习入门篇 ②】Pytorch完成线性回归！

上一部分我们自己通过torch的方法完成反向传播和参数更新，在Pytorch中预设了一些更加灵活简单的对象，让我们来构造模型、定义损失，优化损失等；那么接下来，我们一起来了解一下其中常用的API

小森( ﹡ˆoˆ﹡ )·2025-05-28 21:18

推荐频道