NPU深度学习框架

RK3568笔记九十二：QT使用Opencv显示摄像头

测试使用QT调用Opencv的API显示摄像头，板子为正点原子的RK3568，最终想实现的是在RK3568平台上使用Qt框架进行部署，利用NPU推理加速视频目标识别。

殷忆枫·2025-07-29 02:15

开源深度学习新宠：Burn框架助您无忧高效建模

在日新月异的人工智能世界里，各类深度学习框架如雨后春笋般涌现，而Burn，作为新一代的深度学习框架，以其不妥协的灵活性、高效性和可移植性崭露头角。

·2025-07-28 15:23

数字经济时代全产业链详解

以下是详细拆解：基础技术层1.硬件基础设施芯片与半导体：CPU、GPU、AI芯片（如NPU）等，支撑算力需求。通信设备：5G基站、光纤网络、卫星互联网等。

·2025-07-28 08:32

使用PyTorch实现目标检测与跟踪

PyTorch是一个流行的深度学习框架，提供了强大的工具和库，可以用于目标检测与跟踪的实现。本文将详细介绍如何使用PyTorch实现目标检测与跟踪，并提供相应的源代码。

认真写代码i·2025-07-27 17:14

OpenCV结合深度学习进行图像分类

文章目录1.支持的深度学习框架和模型格式2.模型加载方式加载预训练模型示例：3.图像预处理流程4.前向传播与推理5.结果解析与后处理6.性能优化技巧启用GPU加速：批量处理：代码示例在资源中有上传1.支持的深度学习框架和模型格式

香蕉可乐荷包蛋·2025-07-25 19:35

使用llamafactory微调参数介绍&调参经验分享

微调经验分享微调数据构建SFT语料构建微调常见参数推荐自动化微调代码实现推荐参考网址基于llamafactory微调微调操作指南具体的基于llamafactory微调操作指南，可以见另一篇笔记：基于NPU

大侠教你学AI·2025-07-24 21:32

Python训练 + Go优化 + C#部署：端到端AI模型的跨语言实践

Python作为AI领域的主流语言，具有丰富的深度学习框架（如PyTorch和TensorFlow），在模型训练方面处于领先地位。

威哥说编程·2025-07-23 17:06

基于国产手机 SoC 的多模态模型推理加速实战：GPU × NPU 协同优化全流程解析

基于国产手机SoC的多模态模型推理加速实战：GPU×NPU协同优化全流程解析关键词多模态模型推理、NPU硬件加速、GPU并行计算、国产手机SoC、端侧部署优化、华为昇腾NPU、小米Surge芯片、高通AIEngine

观熵·2025-07-23 09:36

DeepSeek部署指南：从入门到精通

DeepSeek作为一款强大的深度学习框架，其部署过程不仅关系到模型的性能表现，还直接影响到实际应用的效果。

wujj_whut·2025-07-23 01:22

大模型部署的整体架构

1.1.1、基础架构层：硬件资源与网络算力集群GPU/NPU阵列：如NVIDIAA100/H100/H200/H800、华为昇腾、昆仑芯等，支持FP16/INT8量化计算，显存带宽需达TB级（如HBM3e

flyair_China·2025-07-22 04:25

高通手机跑AI系列之——人像与背景分割

环境准备手机测试手机型号：RedmiK60Pro处理器：第二代骁龙8移动--8gen2运行内存：8.0GB，LPDDR5X-8400，67.0GB/s摄像头：前置16MP+后置50MP+8MP+2MPAI算力：NPU48TopsINT8&

伊利丹~怒风·2025-07-22 04:52

使用什么工具测试昇腾 NPU卡的性能和使用情况

测试昇腾NPU卡的性能和使用情况可以借助华为提供的官方工具和第三方工具。

alankuo·2025-07-21 18:22

模型移植实战：从PyTorch到ONNX完整指南

ONNX的主要优势包括：跨框架兼容性：支持主流深度学习框架间的模型转换，包括PyTorch、TensorFlow、MXNet、CNTK等例如，可以将PyTorch训练的ResNet模型导

慕婉0307·2025-07-21 18:50

大模型算法工程师技术路线全解析：从基础到资深的能力跃迁

文章目录大模型算法工程师技术路线全解析：从基础到资深的能力跃迁一、基础阶段（0-2年经验）：构建核心知识体系与工程入门数学与机器学习基础编程与深度学习框架NLP与Transformer入门二、进阶阶段（

Mr.小海·2025-07-21 05:44

Android 异构计算与 OpenCL/CUDA/OpenVX 的协同方式实战解析

Android异构计算与OpenCL/CUDA/OpenVX的协同方式实战解析关键词Android异构计算、OpenCL、CUDA、OpenVX、GPU加速、NPU调度、HSA架构、神经网络推理、计算图编排

观熵·2025-07-20 01:22

PyTorch torch.no_grad() 指南（笔记）

PyTorchtorch.no_grad()权威在PyTorch深度学习框架中，高效的显存管理对于训练复杂模型和执行大规模推理任务至关重要。

拉拉拉拉拉拉拉马·2025-07-19 22:32

英伟达Triton 推理服务详解

它支持多种深度学习框架和硬件平台，能够帮助开发者和企业高效地将AI模型部署到生产环境中。Triton主要用于模型推理服务化，即将训练好的模型通过

leo0308·2025-07-19 11:09

PyTorch & TensorFlow速成复习：从基础语法到模型部署实战（附FPGA移植衔接）

针对光学类产品算法FPGA移植岗位需求（如可见光/红外图像处理），深度学习框架是算法落地的"桥梁"——既要用PyTorch/TensorFlow验证算法可行性，又要将训练好的模型（如CNN、目标检测）转换为

阿牛的药铺·2025-07-12 18:06

深度学习篇---昇腾NPU&CANN 工具包

介绍昇腾NPU是华为推出的神经网络处理器，具有强大的AI计算能力，而CANN工具包则是面向AI场景的异构计算架构，用于发挥昇腾NPU的性能优势。

Atticus-Orion·2025-07-12 12:55

如何使用目标检测深度学习框架yolov8训练钢管管道表面缺陷VOC+YOLO格式1159张3类别的检测数据集步骤和流程

【数据集介绍】数据集中有很多增强图片，大约300张为原图剩余为增强图片数据集格式：PascalVOC格式+YOLO格式(不包含分割路径的txt文件，仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件)图片数量(jpg文件个数)：1159标注数量(xml文件个数)：1159标注数量(txt文件个数)：1159标注类别数：3所在仓库：firc-dataset标注类别名称(注意yo

FL1623863129·2025-07-11 10:23

【第三章:神经网络原理详解与Pytorch入门】02.深度学习框架PyTorch入门-(4)Pytorch实战

第三章:神经网络原理详解与Pytorch入门第二部分：深度学习框架PyTorch入门第四节：Pytorch模型构建内容：如何搭建复杂网络以及如何修改模型与保存一、构建复杂神经网络结构在PyTorch中，

IT古董·2025-07-11 05:50

异构推理系统动态负载调度与资源分配实战：多节点协同、任务绑定与智能分发策略全解析

特别是在GPU/NPU/CPU并存的异构计算集群中，运行

观熵·2025-07-11 02:32

跨集群异构推理系统协同调度实战：边缘-中心联合部署与多租户算力调度架构解析

跨集群异构推理系统协同调度实战：边缘-中心联合部署与多租户算力调度架构解析关键词跨集群调度、边缘推理、GPU-NPU协同、KubeFed、资源分域、任务下发、多租户隔离、MLOps联邦调度、推理闭环、负载均衡摘要在

观熵·2025-07-11 02:32

rk3566开发之rknn npu 部署

目录NPU使用RKNN模型非RKNN模型RKNN-Toolkit2工具RKNNNPU测试代码如下main.ccssd.cc调用ssd模型进行目标检测测试ssd.hqt中调用rknnnpu接口NPU使用RK3566

三十度角阳光的问候·2025-07-10 06:51

Tesla的FSD 架构设计

以下从硬件、软件、算法、数据处理和安全机制五个维度展开分析：一、硬件架构：从HW3.0到AI5的算力跃迁HW3.0基础设计采用三星14nm工艺的定制SoC，包含12个Cortex-A72CPU核心、2个NPU

WSSWWWSSW·2025-07-09 04:30

GNN--知识图谱（逐步贯通基础到项目实践）

原文仓库链接：知识图谱–贯通已有知识地图记录知识关系图谱和跨学科碰撞新启发知识图谱mermaid可能需要下载插件才能渲染线性代数神经网络深度学习框架硬件加速图论GNN框架交叉理解前向理解定义：前向理解：

峙峙峙·2025-07-08 11:41

PyTorch 2.7深度技术解析：新一代深度学习框架的革命性演进

引言：站在AI基础设施变革的历史节点在2025年这个充满变革的年份，PyTorch团队于4月23日正式发布了2.7.0版本，随后在6月4日推出了2.7.1补丁版本，标志着这个深度学习领域最具影响力的框架再次迎来了重大突破。这不仅仅是一次常规的版本更新，而是一次面向未来计算架构和AI应用场景的全面重构。从底层硬件支持到上层API设计，从编译器优化到注意力机制革新，PyTorch2.7展现出了前所未有

智算菩萨·2025-07-08 08:43

PyTorch 详细安装教程及核心API使用指南

一、PyTorch简介PyTorch是由FacebookAIResearch(FAIR)于2016年开发的开源深度学习框架，现已成为学术界和工业界最受欢迎的深度学习工具之一。

慕婉0307·2025-07-08 03:11

Apple Sensor-Fusion 架构全解析：多模态语义图像感知系统设计与实战路径

ARKit、视觉惯性融合、多模态协同计算、CoreMotion、ISP语义路径摘要：Apple自A13及其后续SoC架构中，持续深化Sensor-Fusion与图像语义感知的协同设计，构建出以ISP、NPU

观熵·2025-07-08 01:56

Apple A 系列芯片 Camera 架构解析：ISP + NPU 图像管线协同机制全景实战

AppleA系列芯片Camera架构解析：ISP+NPU图像管线协同机制全景实战关键词：AppleA系列、图像信号处理器（ISP）、神经网络引擎（NPU）、SmartHDR、DeepFusion、图像协同计算

观熵·2025-07-08 01:22

什么是深度学习框架中的计算图？

在深度学习框架中，计算图是核心的数据结构和抽象概念，它用来表示和定义深度学习模型的计算过程。我们可以把它想象成一个描述数学运算如何组合和执行的有向图。

杰瑞学AI·2025-07-07 20:17

大语言模型应用指南：ReAct 框架

大语言模型应用指南：ReAct框架关键词：大语言模型,ReAct框架,自然语言处理(NLP),模型融合,多模态学习,深度学习,深度学习框架1.背景介绍1.1问题由来近年来，深度学习技术在自然语言处理(NLP

AI大模型应用实战·2025-07-07 11:44

深度学习篇---简单果实分类网络

下面我将提供一个使用Python从零实现果实分类模型的完整流程，包括数据准备、模型构建、训练和部署，不依赖任何深度学习框架，仅使用NumPy进行数值计算。

·2025-07-07 03:20

《ONNX推理部署全解析：从基础到进阶的实用指南》

它由Facebook和Microsoft在2017年联合开发，后来得到了NVIDIA、Intel、AWS、Google、OpenAI等众多公司的支持，旨在解决不同深度学习框架之间模型格式不兼容的问题，为模型的存储

空云风语·2025-07-05 22:45

深度探索：机器学习中的条件生成对抗网络（Conditional GAN, CGAN）算法原理及其应用

3.算法原理4.算法实现5.优缺点分析优点：缺点：6.案例应用7.对比与其他算法8.结论与展望1.引言与背景生成对抗网络（GenerativeAdversarialNetworks,GANs）作为一种深度学习框架

·2025-07-05 09:09

《深度学习》—— PyTorch的介绍及PyTorch的CPU版本安装

PyTorch的简单介绍二、pytorch的CPU版本安装三、torch、torchvision、torchaudio三个库的介绍一、PyTorch的简单介绍PyTorch是一个由FacebookAI实验室开发的深度学习框架

张小生180·2025-07-05 01:24

基于昇腾910B部署Qwen3-embedding-8B模型（通过vllm 推理引擎部署）

1、环境要求：软件支持版本CANN>=8.1.RC1torch-npu>=2.5.1torch>=2.5.1Python>=3.9,<3.122、to

萌新--加油·2025-07-04 04:56

为什么 Python 是 AI 的首选语言？

文章目录一、简洁优雅，易于上手二、丰富的库和框架1.数据处理与分析2.数据可视化3.机器学习与深度学习框架三、强大的社区支持四、跨平台性和可移植性五、与其他语言的互操作性文章配套代码已上传，点击查看：https

·2025-07-04 02:43

【Python基础】13 知识拓展：CPU、GPU与NPU的区别和联系

引言：处理器大战背后的技术革命在人工智能蓬勃发展的今天，我们经常听到CPU、GPU、NPU这些术语，但你是否真正理解它们之间的区别和联系？

智算菩萨·2025-07-04 01:11

昇腾NPU节点软件版本检查与升级方法

检查方法：npu-smiinfo-tboard-i1|egrep-i"software|firmware"二、升级方法需要注意的是，一定要先升级固件，再升级驱动；如果需要降级版本，流程与升级一样。

·2025-07-04 00:29

【深度学习pytorch-6】张量与numpy相互转换

张量通常用于深度学习框架（如PyTorch、TensorFlow等），而Numpy数组在科学计算中被广泛使用。为了便于数据处理和计算，常常需要在它们之间进行转换。

超华东算法王·2025-07-03 19:31

KANN 是一个独立的轻量级 C 语言库，用于构建和训练中小型人工神经网络，例如多层感知器、卷积神经网络和递归神经网络（包括 LSTM 和 GRU）。它实现了基于图的逆模自动微分，并允许构建具有递归等

与TensorFlow等主流深度学习框架相比，KANN的可扩展性较低，但它的灵活性接近，代码库要小得多，并且仅依赖于标准C库。与

·2025-07-02 20:35

高性能AI核心板Z3588CV1：基于瑞芯微RK3588的旗舰级解决方案——8K视觉处理 · 6TOPS NPU算力 · 多场景边缘计算

混合架构，可实现任务智能调度GPU：Mali-G610MP4，支持OpenGLES3.2/2.0/1.1、Vulkan1.28KVPU视频编解码：H.265/H.264/AV1格式，支持60fps实时处理NPU

九鼎创展科技·2025-07-01 07:18

【软件系统架构】系列四：数字信号处理器（DSP）

二、DSP的核心架构特点1.基本结构2.工作流程：3.关键特性：三、DSP与MCU/MPU/NPU的对比四、DSP与通用处理器的对比五、常用DSP算法类型六、常见DSP芯片平台七、开发工具链与语言支持八

·2025-06-30 08:12

【PyTorch】2024保姆级安装教程-Python-（CPU+GPU详细完整版）

【PyTorch】2024保姆级安装教程（CPU+GPU详细完整版）PyTorch是当前最受欢迎的深度学习框架之一。

金枝玉叶9·2025-06-29 15:48

基于OpenCV图像分割与PyTorch的增强图像分类方案

为了应对这一挑战，本文介绍了一种结合OpenCV图像分割与PyTorch深度学习框架的增强图像分类方案。

从零开始学习人工智能·2025-06-29 13:04

DAY 43 复习日

对于初学者，一个更便捷的选择是使用像TensorFlow或PyTorch这样深度学习框架内

yizhimie37·2025-06-29 07:49

CIANNA由天体物理学家提供/为天体物理学家提供的卷积交互式人工神经网络

一、软件介绍文末提供程序和源码下载CIANNA是一个通用的深度学习框架，主要用于天文数据分析。根据天体物理问题解决的相关性添加功能和优化。

struggle2025·2025-06-29 05:37

高通手机跑AI系列之——3D姿势估计

代码功能分析关键模块解析示例代码代码效果环境准备手机测试手机型号：RedmiK60Pro处理器：第二代骁龙8移动--8gen2运行内存：8.0GB，LPDDR5X-8400，67.0GB/s摄像头：前置16MP+后置50MP+8MP+2MPAI算力：NPU48TopsINT8&

伊利丹~怒风·2025-06-28 17:10

高通手机跑AI系列之——姿态识别