NPU

RK3588使用npu运行onnx模型推理

文章目录前言1.安装rknn-toolkit22.将onnx模型转为rknn模型3.通过rknpu2加载rknn模型执行推理前言先说总体流程：1.在x86主机上安装【rknn-toolkit2】2.使用【rknn-toolkit2】，把onnx模型转换成rknn格式的模型。3.在板子部署【rknpu2】，在编程时，调用其提供的接口即可。1.安装rknn-toolkit2最好先按照这里【ubuntu
韭菜钟·2023-10-26 16:43

香蕉派 BPI-W3采用瑞芯微RK3588开源硬件开发板公开发售

嵌入式高性能3D和2D图像加速模块，内置6tops计算能力的AI加速器NPU。板载4GB64bitLPD
Top-希·2023-10-25 10:37

华为昇腾NPU卡 大模型LLM ChatGLM2模型推理使用

参考：https://gitee.com/mindspore/mindformers/blob/dev/docs/model_cards/glm2.md#chatglm2-6b1、安装环境：昇腾NPU卡对应英伟达
loong_XL·2023-10-25 07:37

Banana Pi 开源社区发布BPI-M6开源硬件开发板，支持6.75TOPs算力

NPU高达6.75tops算力。板载4GBLPDDR4内存和16GBEMMC存储
Banana Pi开源硬件·2023-10-25 06:17

解决报错RuntimeError: Failed to import transformers.trainer_seq2seq because of the following error

Failedtoimporttransformers.trainer_seq2seqbecauseofthefollowingerror(lookuptoseeitstraceback):cannotimportname'is_npu_available'from'accelerate.utils
夏离·2023-10-25 02:10

2023 极术通讯-面向AI 2.0的智能座舱开发趋势

芯方向DNN加速器设计——NPU数据流优化本章直接通过设计专用硬件来优化DNN的处理。在考虑深度神经网络加速的硬件组织时，专门的深度神经网络硬件的设计空间相当大。
极术社区·2023-10-24 11:11

海思Hi3519DV500边缘计算盒子-英码IVP09A，双核A55 64位处理器

产品简介IVP09A是英码科技推出的边缘计算智能工作站，搭载双核Cortex-A55架构AI处理器；内置高效的神经网络推理引擎，提供2.5Tops@NPU算力;支持多路视频图像识别硬件加速。
英码科技·2023-10-23 00:10

【2023 · CANN训练营第一季】昇腾AI高阶课（Ascend C算子开发入门-第一章）学习笔记

+作为前端语言的算子开发工具四层接口抽象、并行编程范式、孪生调试等技术使用c/c++愿语编程编程模型屏蔽硬件差异，编程范式提高开发效率多层级API封装，从简单到灵活，兼顾易用高效孪生调试，CPU侧模拟NPU
仰望星YJ光J·2023-10-22 18:31

Ascend C算子开发（入门）章节小测

1、AscendC是一种使用（A）作为前端语言的算子开发工具A.C/C++B.PythonC.JavaD.Go正确答案：A2、NPU卡的计算核心是（AICORE）3、AscendC编程API主要是向量计算
STRUGGLE_xlf·2023-10-22 18:29

NPU上PyTorch模型训练问题案例

在昇腾AI处理器上训练PyTorch框架模型时，可能由于环境变量设置问题、训练脚本代码问题，导致打印出的堆栈报错与实际错误并不一致、脚本运行异常等问题，那么本期就分享几个关于PyTorch模型训练问题的典型案例，并给出原因分析及解决方法：1、在训练模型时报错“InnerErrorxxxx”，但打印的堆栈报错信息与实际错误无关2、在模型训练时报错“terminatecalledafterthrowi
昇腾CANN·2023-10-22 13:21

NPU上PyTorch模型调优问题案例

AI处理器上训练PyTorch框架模型时，可能由于算子在CPU上的下发速度、动态shape等问题，导致性能降低，那么本期就分享几个关于PyTorch模型调优的典型案例，给出调优思路及具体的调优方法：1、NPU
昇腾CANN·2023-10-22 13:21

今日思考（2） — 训练机器学习模型用GPU还是NUP更有优势（基于文心一言的回答）

前言深度学习用GPU，强化学习用NPU。1.训练深度学习模型，强化学习模型用NPU还是GPU更有优势在训练深度学习模型时，GPU相比NPU有优势。
笑傲江湖2023·2023-10-22 04:24

工程师测评|iMX8MP开发板NPU的功能测试实测

除了4个ArmCortex-A53核心（工业级最高1.6GHz）及1个Cortex-M7（最高800MHz）核心，它还集成了专用神经处理引擎（NPU），以及可并行实时处理两路集成MIPI-CSI摄像头接口产生的的图像信号处理器
燕小飞·2023-10-22 02:39

RK主机 CPU、NPU使用频率查看和设置

查看NPU使用情况sudocat/sys/kernel/debug/rknpu/load查看CPU当前频率cat/sys/class/devfreq/fdab0000.npu/cur_freq查看CPU
口在天上，数在心中·2023-10-21 02:24

Tensorflow TO NPU

importnpu_devicefromnpu_device.compat.v1.npu_initimport*npu_device.compat.enable_v1()fromtensorflow.core.protobuf.rewriter_config_pb2importRewriterConfigimporttensorflowastfimportnumpyasnpfromtensorfl
Zain Lau·2023-10-19 23:32

轻松搞定99%以上物联网应用系统快速交付：揭秘宏电三三开源物联网平台

如何解决基于CPU、NPU、GPU、X86、ARM等不同架构的计算终端部署？如何解决企业重复“造轮子”的低效性，让企业更专注于核心业务开发
宏电物联网·2023-10-18 05:08

迅为RK3568开发板使用RKNN-Toolkit-lite2运行测试程序

1首先也需要部署运行环境，将库文件放入RK3568开发板上，我们将网盘资料“iTOP-3568开发板\02_【iTOP-RK3568开发板】开发资料\11_NPU使用配套资料\05_Linux_librknn_api
mucheni·2023-10-16 12:03

实操rk3588讯为开发板部署和运行yolov5模型

这个过程中遇到三个问题：同样是运行pc端虚拟机上的python脚本来使用板上的npu进行推理，连板推理和部署到板端的区别是什么？为什么adb连接不上？为什
hzh442436179·2023-10-16 12:02

迅为RK3588开发板使用RKNN-Toolkit-lite2运行测试程序

1首先也需要部署运行环境，将库文件放入RK3588开发板上，我们将网盘资料“iTOP-3588开发板\02_【iTOP-RK3588开发板】开发资料\12_NPU使用配套资料\05_Linux_librknn_api
mucheni·2023-10-16 12:27

RISCV学习（2）玄铁C910处理器体验

TH1520为主控核心（[email protected]，RV64GCV，4TOPS@int8NPU，50GFLOPGPU）板载最大16GB64bitLPDDR4X，128GBeMMC，支持HDMI+MIPI双
张一西·2023-10-16 01:55

YOLOv7迁移昇腾NPU推理测试

1、准备源码和模型文件，下载yolov7官方源码和预训练模型，2、使用源码脚本将模型导出为onnx格式：python3export.py--weightsyolov7.pt--grid--simplify--topk-all100--img-size640640--max-wh6403、模型转换，使用昇腾atc模型转换工具将onnx模型转换为om格式。测试设备为昇腾Atlas300I推理卡，需要将
理想失速·2023-10-15 17:39

RK3562开发板：升级摄像头ISP，突破视觉体验边界

RK3562开发板作为深圳触觉智能新推出的爆款产品，采用Rockchip新一代64位处理器RK3562（Quad-coreARMCortex-A53，主频最高2.0GHz），最大支持8GB内存；内置独立的NPU
Industio_触觉智能·2023-10-15 13:44

瑞芯微平台（RV1126）基于轻量级推理框架TengineInferpipe实现tengine后端的NPU部署应用

TengineInferpipe的简介参考TengineInferPipe在Jetson平台基于TensorRT后端Demo实现_space01的博客-CSDN博客。瑞芯微平台（RV1126）建议使用docker环境交叉编译TengineInferPipe，首先需要安装docker，并启动docker服务。1.拷贝tengine动态库通过交叉编译工具编译的tengine库拷贝到TengineInf
space01·2023-10-14 23:38

简单的聊聊 NPU ，Tensor core

NPU英文全称是NeuralnetworkProcessingUnit，中文大概得叫神经网络处理单元吧。
jinre2·2023-10-13 13:50

RK3568驱动指南｜第六期-平台总线-第51章 注册platform设备实验

RK3568内置独立NPU，可用于轻量级人工智能应用。RK3568支持安卓11和linux系统，主要面向物联网网关、NVR存储、工控平板、工业检测、工控盒、卡拉OK
北京迅为·2023-10-13 00:30

RK3568驱动指南｜第六篇 －平台总线－第50章 平台总线模型介绍

RK3568内置独立NPU，可用于轻量级人工智能应用。RK3568支持安卓11和linux系统，主要面向物联网网关、NVR存储、工控平板、工业检测、工控盒、卡拉OK
北京迅为·2023-10-13 00:29

RK3568驱动指南｜第五期-中断-第49章 中断线程化实验

RK3568内置独立NPU，可用于轻量级人工智能应用。RK3568支持安卓11和linux系统，主要面向物联网网关、NVR存储、工控平板、工业检测、工控盒、卡拉OK
北京迅为·2023-10-13 00:59

RK3568驱动指南｜第六篇-平台总线-第52章 注册platform驱动实验

RK3568内置独立NPU，可用于轻量级人工智能应用。RK3568支持安卓11和linux系统，主要面向物联网网关、NVR存储、工控平板、工业检测、工控盒、卡拉OK
北京迅为·2023-10-13 00:56

对标苹果M系列 高通官宣下一代PC芯片

高通表示，骁龙X系列平台基于定制的OryonCPU核心，主要用于笔记本电脑，将实现性能和能效的显著提升，此外其搭载的面向AI处理的专用NPU，将提高终端侧在生成式AI方面的用户体验。
2301_76571514·2023-10-12 18:25

【AI视野·今日Sound 声学论文速览 第二十一期】Mon, 9 Oct 2023

✈更多精彩请移步主页Interesting:MBTFNet,用于歌声质量增强的多带宽时频神经网络(from西工大Audio,SpeechandLanguageProcessingGroup(ASLP@NPU
hitrjj·2023-10-12 07:19

【新品发布】四核A53超高性价比！RK3562系列核心板及开发板震撼上市

RK3562系列产品采用Rockchip新一代64位处理器RK3562（Quad-coreARMCortex-A53，主频最高2.0GHz），最大支持8GB内存；内置独立的NPU，可用于轻量级人工智能应用
Industio_触觉智能·2023-10-11 19:31

《大数据技术原理与应用》（第五章NoSQL 课后答案）

第五章NoSQL数据库参考资料1.林子雨_大数据技术原理与应用课后习题_NPU_阿夏的博客-CSDN博客2.林子雨编著《大数据技术原理与应用（第3版）》教材官网_厦门大学数据库实验室3.大数据技术原理与应用
S_h_a_·2023-10-10 23:40

yolov5+bytetrack算法在华为NPU上进行端到端开发

自从毕业后开始进入了华为曻腾生态圈，现在越来越多的公司开始走国产化路线了，现在国内做AI芯片的厂商比如：寒武纪、地平线等，虽然我了解的不多，但是相对于瑞芯微这样的AI开发板来说，华为曻腾的生态比瑞芯微好太多了，参考文档非常多，学习资料也有很多，也容易上手开发。华为曻腾官网：昇腾AI应用案例-昇腾社区(hiascend.com)直接步入正题，现在的目标检测已经很成熟了，所以越来越多的公司会用到基于检
成都_小吴·2023-10-08 13:41

软件测试了解

好吧，之前投实习的时候把NPU看成NLU，然后投了个软件测试，现在竟然进面试了，还是得准备一下，抱个佛脚。不过，真的xs，我当初怎么会投这个的啊，现在看职位描述真没一个知道的。
新四石路打卤面·2023-10-08 11:16

RK3588 VDD_NPU电源PCB设计注意事项

1、VDD_NPU的覆铜宽度需满足芯片的电流需求，连接到芯片电源管脚的覆铜足够宽，路径不能被过孔分割太严重，必须计算有效线宽，确认连接到CPU每个电源PIN脚的路径都足够。
凡亿教育·2023-10-07 11:55

RK3588 PMIC/Power电路 PCB 设计指南

1、VDD_LOGIC，VDD_GPU，VDD_NPU，VDD_CPU电源的DC-DC远端反馈设计。
行者有路hh·2023-10-07 11:23

实时语义分割网络 BiSeNet , RK1126 Npu 推理

记录下在rk1126上，实现BiSeNet网络推理.https://github.com/CoinCheung/BiSeNetONNX生成onnx模型pythontools/export_onnx.py--configconfigs/bisenetv2_city.py--weight-path./checkpoints/model_final_v2_city.pth--outpath./check
J ..·2023-10-06 22:06

RK1126 NPU yolov5 6.2

基于rknpu，实现yolov56.2模型推理实现过程⚡️编译opencv需根据自己路径修改.cmake-DCMAKE_BUILD_TYPE=RELEASE\-DCMAKE_C_COMPILER=./gcc-arm-8.3-2019.02-x86_64-arm-linux-gnueabihf/bin/arm-linux-gnueabihf-gcc\-DCMAKE_CXX_COMPILER=./gc
J ..·2023-10-06 22:36

GPU如何成为AI的加速器

本文关键词：GPU、深度学习、GPGPU、渲染、Brook语言、流计算、硬件T&L、CUDA、PyTorch、TOPS、TPU、NPU深度学习理论的发展是一个渐进的过程，从1940年代人工神经元网络的提出到
使者大牙·2023-10-05 19:30

【39元linux开发板-教程】-[摄像头]-幸狐Luckfox Pico-超越树莓派PICO

【在线教程-持续】RISC-VPico幸狐RV1103LinuxLuckfoxRockchip开发板ARMCortex-A7/NPU/AI人工智能识别【39元linux开发板-教程】-[摄像头]-幸狐LuckfoxPico
斑梨电子·2023-09-30 08:33

100ASK_全志V853-PRO开发板支持人形检测和人脸识别

1.前言V853芯片内置一颗NPU核，其处理性能为最大1TOPS并有128KB内部高速缓存用于高速数据交换，支持OpenCL、OpenVX、androidNN与ONNX的API调用，同时也支持导入大量常用的深度学习模型
DOT小文哥·2023-09-30 03:55

最新白皮书：软件定义的硬件打开通往高性能数据加速的大门

在众多行业的数字化转型过程中，基于硬件的数据处理加速是构建高性能、高效率智能系统的关键之处，因而市场上出现了诸如FPGA、GPU和xPU等许多通用或者面向特定应用（如NPU）的硬件加速器。
电子科技圈·2023-09-28 20:53

【北京迅为】《iTOP-3568开发板快速测试手册》第4章 Buildroot系统功能测试

RK3568内置独立NPU，可用于轻量级人工智能应用。RK3568支持安卓11和linux系统，主要面向物联网网关、NVR存储、工控平板、工业检测、工控盒、卡拉OK
北京迅为·2023-09-28 13:56

迅为RK3568开发板使用RKNN-Toolkit-lite2运行测试程序

1、首先也需要部署运行环境，将库文件放入RK3568开发板上，我们将网盘资料“iTOP-3568开发板\02_【iTOP-RK3568开发板】开发资料\11_NPU使用配套资料\05_Linux_librknn_api
mucheni·2023-09-28 13:56

迅为RK3588开发板国产瑞芯微适用于ARM PC边缘计算NVR等服务器级板卡

RK3588采用瑞芯微8nm制程工艺，拥有四个A76大核和四个A55小核，集成MaliOrdin四核图形处理器，内置6TOPS的独立NPU，整体算力十分强劲。
迅为电子·2023-09-28 13:25

技术前言 - 芯片制造工序详解

设计设计流程行业壁垒芯片制造&&封装测试制造流程封装测试行业壁垒九大核心设备参考文档芯片简介种类（1）按照性质：数字，模拟芯片（2）按照用途：计算机，家电，手机，医疗，汽车等（3）功能：  [1]思考功能：CPU，NPU
程序员的记录·2023-09-28 10:15

Ascend_PyTorch安装指北

Ascend_PyTorch安装指北主要分为以下几步：升级固件和驱动；安装CANN包toolkit；安装torch-1.11；安装apex；安装deepspeed；升级固件和驱动固件版本为：Ascend-hdk-910-npu-firmware
fdd096030079·2023-09-26 22:33

RK3568-NPU模型转换

NPU：神经网路处理器：AI方面的计算。GPU：图形处理器：图形方面的计算。
Paper_Love·2023-09-24 22:58

RK3568驱动指南｜第五篇 中断-第42章 软中断实验

RK3568内置独立NPU，可用于轻量级人工智能应用。RK3568支持安卓11和linux系统，主要面向物联网网关、NVR存储、工控平板、工业检测、工控盒、卡拉OK
北京迅为·2023-09-23 12:48

RK3568驱动指南｜第五期-中断-第41章中断下文tasklet实验

RK3568内置独立NPU，可用于轻量级人工智能应用。RK3568支持安卓11和linux系统，主要面向物联网网关、NVR存储、工控平板、工业检测、工控盒、卡拉OK
北京迅为·2023-09-23 12:18
上一页 2 3 4 5 6 7 8 9 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他