cuda编程

CPU与GPU统一虚拟内存(CUDA UM)原理

CPU与GPU的统一内存(CUDAUnifiedMemory)原理文章目录CPU与GPU的统一内存(CUDAUnifiedMemory)原理一、UM下的CUDA编程二、UM的实现原理1.cudaMallocManaged
海育大厦·2023-06-22 17:41

linux用cpu模拟cuda,GPU模拟器,用于CUDA编程,无需硬件

对于那些谁正在寻找答案在2016年…免责声明>我毕竟没有效仿GPU。>如果你满足其列表，可能可以使用gpuocelot依赖性。我试图得到一个模拟器的BunsenLabs(Linux3.16.0-4-686-pae#1SMPDebian3.16.7-ckt20-1deb8u4(2016-02-29)i686GNU/Linux)。我会告诉你我学到了什么。>nvcc以前在CUDAToolkit3.0中有
有所不知·2023-06-22 17:40

GPU并行计算

ReferenceCUDA编程入门GPU编程|并行计算的helloworld！
Gavynlee·2023-06-15 09:36

CUDA编程中的HANDLE_ERROR( )和book.h-2023

最近个人正在学习cuda编程，这个帖子作为一个经验记录。第一呢，这本书里面很明显面对的是一些有编程基础的同学准备的，因此他很多细节都是跳过，这就给我们一些初学者带来了困扰。
PoomHey·2023-06-14 00:20

cuda编程入门07

程序优化技巧程序解读降低256倍，但是后面数组长度还是不知道的对1万的元素在此降低一定倍数初始加速比为9.58左右这里没有volatieif(tid<32)sdata[tid]+=sdata[tid+32];__syncthreads();在一个wrap内进行合并sdata[tid]+=sdata[tid+32];sdata[tid]+=sdata[tid+16];sdata[tid]+=sdat
AI与机器人Cony·2023-06-13 01:17

CUDA 入门教程

CUDA从入门到精通（零）：写在前面在老板的要求下，本博主从2012年上高性能计算课程开始接触CUDA编程，随后将该技术应用到了实际项目中，使处理程序加速超过1K，可见基于图形显示器的并行计算对于追求速度的应用来说无疑是一个理想的选择
sg-expert·2023-06-11 06:00

cuda编程学习——原子函数（十）

前言参考资料：高升博客《CUDAC编程权威指南》以及CUDA官方文档CUDA编程：基础与实践樊哲勇文章所有代码可在我的GitHub获得，后续会慢慢更新文章、讲解视频同步更新公众《AI知识物语》，B站：出门吃三碗饭
出门吃三碗饭·2023-06-09 14:25

cuda编程学习——CUDA全局内存性能优化（八）

前言参考资料：高升博客《CUDAC编程权威指南》以及CUDA官方文档CUDA编程：基础与实践樊哲勇文章所有代码可在我的GitHub获得，后续会慢慢更新文章、讲解视频同步更新公众《AI知识物语》，B站：出门吃三碗饭在各种设备内存中
出门吃三碗饭·2023-06-09 14:24

cuda编程学习——CUDA共享内存性能优化（九）

前言参考资料：高升博客《CUDAC编程权威指南》以及CUDA官方文档CUDA编程：基础与实践樊哲勇文章所有代码可在我的GitHub获得，后续会慢慢更新文章、讲解视频同步更新公众《AI知识物语》，B站：出门吃三碗饭
出门吃三碗饭·2023-06-09 14:24

CUDA02_03CUDA编程入门与GPU模式

  CUDA的核心就是扩展了C/C++语法，提出了核函数的语法，使得单一在CPU上运算的函数，可以指定在GPU上计算。同时提供辅助的API完成一些计算相关的操作。  CUDA的扩展语法还是采用PRO*C/C++等类似的思想，就是预编译，CUDA提供了一个nvcc的预编译工具，该工具可以自动调用本地编译器，实现完整的编译过程。工具根据扩展名来识别，cuda的扩展语法源代码扩展名是.cu。  因为Vi
杨强AT南京·2023-06-07 13:21

CUDA编程接口详解

CUDA编程接口详解本文将详细介绍NVIDIACUDA编程指南第3章（编程接口）中的核心概念，例如NVCC编译器、CUDA运行时、版本管理和兼容性、计算模式、模式切换以及Windows下的Tesla计算集群模式
扫地的小何尚·2023-06-06 23:13

CUDA编程2——共享内存的优势

这里解决一个问题。通过两个程序，讨论共享内存的优势。共享内存预计比全局内存快得多。它可以用作暂存器内存（或软件托管的高速缓存），以最大程度地减少来自CUDA块的全局内存访问.一全局内存//Matricesarestoredinrow-majororder://M(row,col)=*(M.elements+row*M.width+col)typedefstruct{intwidth;intheig
屡空·2023-04-21 08:34

windows下nvvp的基础使用1

windows下nvvp的基础使用1cuda编程的重要帮手可视化工具nvvp本来先写nsignt的使用方式,不过折腾了一会发现没弄得那么明白.先用着nvvp好了,毕竟只是先看书配合着写点简单的cuda代码而已安装建议在
u011822516·2023-04-21 01:26

CUDA编程基础与Triton模型部署实践

作者：王辉阿里智能互联工程技术团队近年来人工智能发展迅速，模型参数量随着模型功能的增长而快速增加，对模型推理的计算性能提出了更高的要求，GPU作为一种可以执行高度并行任务的处理器，非常适用于神经网络的推理计算，因此近年来在人工智能领域得到广泛关注与应用。本文将结合我在阿里智能互联云端模型推理部署方面半年以来的工作学习，对相关的GPU编程与云端模型部署的知识与经验进行总结分享，下文内容为个人学习总结
阿里技术·2023-04-18 22:32

面经：百度视觉技术部--视觉架构及终端研发工程师

C++（后端开发）和python（深度），之后可能还会用GO，偏工程，上图圈的都是部门设计的开发产品1.视觉软件后端研发如视频流式计算架构、图像视频检索架构等2.视觉算法实现3.深度学习训练优化设计（CUDA
末一哟·2023-04-15 03:58

【NVIDIA GPU 入门】综述

系列文章目录  文章目录系列文章目录前言一、概述二、GPU架构基础2.1GPU概述2.2GPU的架构2.3自主查询GPU相关信息三、CUDA编程概念3.1CUDA线程模型3.1线程层次结构1.引入库2.
Mr.Idleman·2023-04-15 03:44

2020-10-21CUDA从入门到精通

CUDA从入门到精通（零）：写在前面在老板的要求下，本博主从2012年上高性能计算课程开始接触CUDA编程，随后将该技术应用到了实际项目中，使处理程序加速超过1K，可见基于图形显示器的并行计算对于追求速度的应用来说无疑是一个理想的选择
Loreen368·2023-04-14 15:02

CUDA从入门到精通

CUDA从入门到精通（零）：写在前面在老板的要求下，本博主从2012年上高性能计算课程开始接触CUDA编程，随后将该技术应用到了实际项目中，使处理程序加速超过1K，可见基于图形显示器的并行计算对于追求速度的应用来说无疑是一个理想的选择
hxpjava1·2023-04-14 14:21

CUDA从入门到精通（转载）

CUDA从入门到精通（零）：写在前面在老板的要求下，本博主从2012年上高性能计算课程开始接触CUDA编程，随后将该技术应用到了实际项目中，使处理程序加速超过1K，可见基于图形显示器的并行计算对于追求速度的应用来说无疑是一个理想的选择
bodybo·2023-04-14 14:19

【ubuntu查看显卡、配置显卡、cuda、cudnn】

首先检查系统是否有支持CUDA编程的GPU。
compute爱好者·2023-04-14 04:52

【CUDA】《CUDA编程：基础与实践》CUDA加速的关键因素

CUDA事件计时CUDA提供了一种基于CUDA事件(CUDAevent)的计时方式，可用来给一段CUDA代码(可能包含主机代码和设备代码)计时。对计时器的封装：classCUDATimeCost{public:voidstart(){elapsed_time_=0.0;//初始化cudaEventcheckCudaRuntime(cudaEventCreate(&start_));checkCud
Dovake·2023-04-13 09:25

CUDA编程-05：流和事件

CUDA流在CUDA中有两个级别的并发：内核级并发和网格级并发。前面的文章介绍的是内核级并发，这种并发方式是通过数据并行的方式用多个GPU线程去并发地完成一个内核任务，而网格级并发则是把一个任务分解为多个内核任务，通过在一个设备上并发地运行多个内核任务来实现任务的并发执行，这种方式使得设备的利用率更高。CUDA流是一系列异步操作的集合，同一个CUDA流中的操作严格按照顺序在GPU上运行，使用多个流
DeepDriving·2023-04-09 23:28

CUDA编程之：cudaMemcpy()函数

cudaMemcpy用于在主机（Host）和设备（Device）之间往返的传递数据，用法如下：主机到设备：cudaMemcpy(d_A,h_A,nBytes,cudaMemcpyHostToDevice)设备到主机：cudaMemcpy(h_A,d_A,nBytes,cudaMemcpyDeviceToHost)注意：该函数是同步执行函数，在未完成数据的转移操作之前会锁死并一直占有CPU进程的控制
Coder802·2023-04-09 23:25

CUDA编程之：Stream（流）

CUDAStream（流）：指在设备(Device)上按主机(Host)代码发出的顺序执行的一系列异步的CUDA操作。Stream封装这些操作，管理它们的顺序，允许在所有先前操作之后在流中排队执行操作，并允许查询排队操作的状态。这些操作可以包括主机设备数据传输、内核启动以及由主机发出但由设备处理的大多数其他命令。流中操作的执行对于主机总是异步的。CUDA运行时将确定该操作何时适合在设备上执行。在使
Coder802·2023-04-09 23:25

CUDA编程：概述

CUDA编程GPU的架构每个GPU由N个SM组成，1个SM分为2个SMP，1个SMP有16个DPUnit和32个CudaCore以及一些特殊函数处理模块比如说，RTX2080Ti，具有68个SM，总共有
u013250861·2023-04-09 23:25

CUDA编程：stream和Concurrency初探

总是在讲概念和写一些简单的helloworld似乎有些无聊，为了更好的去理解，咱们下一篇将以实战为主，使用tensorrt编写自己的plugin（其实是一直在介绍概念，我都有些困了，咱们一起写个项目玩玩），但是在实操之前我们还需要介绍几个重要的概念，在写项目时我们会用到。CUDA程序并发性可分为两种：1、kernellevelconcurrency：一个task由GPU上多个thread并行执行的
Mokingjay雨·2023-04-09 23:19

VS2017 CUDA编程学习12：CUDA流

文章目录前言1.CUDA流的理解2.C++实现CUDA流3.执行结果总结学习资料VS2017CUDA编程学习1：CUDA编程两变量加法运算VS2017CUDA编程学习2：在GPU上执行线程VS2017CUDA
DU_YULIN·2023-04-09 23:47

CUDA编程（五）：流stream

CUDA编程（五）：流streamCUDA流stream定义CUDA流stream管理相关API函数定义流创建流销毁流流同步代码示例参考文献CUDA流stream定义CUDA流：一系列将在GPU上按照顺序执行的操作
cv-player·2023-04-09 23:46

CUDA流：利用并行执行提高性能

引言CUDA流是CUDA编程中一个非常重要的概念。流（Stream）是异步执行CUDA命令序列的一种机制，它允许利用设备并行性，从而提高应用程序的性能。
Algabeno·2023-04-09 23:46

CUDA编程学习笔记

CUDA：ComputeUnifiedDeviceArchitecture，是由NVIDIA所推出的一种集成技术，允许使用标准C来进行GPU代码编程，最终转为PTX汇编代码。CPU与GPUGPU可以看作是CPU的协助处理器，使用GPU实际指的是基于CPU+GPU的异构计算架构。通过PCle总线连接，CPU端成为Host端，GPU端称为Device端。基于CPU+GPU的异构计算架构GPU适合数据并
Mr_Stark的小提莫·2023-04-07 23:21

CUDA编程-02： 初识CUDA编程

上一篇文章介绍了如何搭建CUDA编程环境，从这篇文章开始正式开始介绍如何使用CUDA进行编程。
DeepDriving·2023-04-06 15:21

CUDA编程（四）：内存管理

CUDA编程（四）：内存管理内存内存的基础知识GPU内存结构寄存器resigters本地内存localmemory共享内存sharedmemory常量内存constantmemory全局内存globalmemory
cv-player·2023-04-06 15:19

CUDA编程（二）：核函数与线程层级

核函数与线程层级函数限定CUDA核函数线程层级线程排布blockId和threadId的计算函数限定GPU是异构模型，所以需要区分host和device上的代码，在CUDA中是通过函数类型限定词来区分host和device上的函数，主要的三个函数类型限定词如下：__global__：声明的核函数是在CPU端调用，在GPU里执行。__device__：声明的函数调用和执行都在GPU中。__host_
cv-player·2023-04-06 15:49

CUDA【1】HelloWorld

文章目录HelloWorld关于Kernel函数首先你得有一个CUDA编程环境，此处略，简单点就nvidia-docker走起HelloWorld#includevoidc_hello(){printf
椰子奶糖·2023-04-06 15:42

【CUDA编程】一：从简单的实例入门

前提拥有NVIDIA的显卡-配置好cuda有C/C++基础Linux系统基础知识看看这篇吧CUDA基础知识以后有空再自己写。了解以下几个概念：线程thread线程块threadblock线程格threadgrid代码1：简单加法了解如何创建GPU调用的函数了解一些基础函数/**文件名helloworld.cu*编译：nvcc-ohelloworldhelloworld.cu*/#include#i
陈生~·2023-04-06 15:37

实战:Hello World——CUDA

写在前面的话：本人刚入坑CUDA编程，大家一起相互交流学习众所周知，学习编程的第一个demo是啥，那就是"HelloWorld"。没错本文是我第一个CUDA程序，仅以此文开始入门。
MacalDan·2023-04-06 15:33

【CUDA】《CUDA编程：基础与实践》Hello CUDA

CUDAHelloWorld!简介本文主要实现CUDA的HelloWorld。介绍了nvccCUDA编译时虚拟架构算力指定和真实架构算力指定，最后使用xmake编译CUDA程序。CUDA代码一个真正利用GPU的CUDA程序既有主机Host（CPU）代码，也有设备Devie(GPU)代码。主机对设备的调用时通过核函数来实现。核函数可以使用global修饰核函数必须是void//src/main.cu
Dovake·2023-04-06 15:32

CUDA编程实战：初入江湖

CUDA编程实战：初入江湖本文由小肉包老师原创，版权所有，欢迎转载，本文首发地址https://jinfagang.github.io。
小肉包老师·2023-04-06 15:55

CUDA编程（三）：Hello world

CUDA编程（三）：HelloworldCUDA编程HelloworldCUDA编程CUDA是ComputeUnifiedDeviceArchitecture的缩写，由英伟达公司2007年开始推出，初衷是为
cv-player·2023-04-06 14:12

CUDA on Platform 学习笔记1--GPU硬件架构

CUDA参考学习资料：CUDA编程-基础与实践樊哲勇https://github.com/brucefan1983/CUDA-ProgrammingCUDABestPracticeGuide,NVIDIACorp.CUDACProgrammingGuide
lansebingxuan·2023-04-05 15:38

Nsight Eclipse 连接TX2进行CUDA编程

一开始非常纠结在TX2上怎么写CUDA和opencv的程序，总不能在VIM里敲吧，也许是个神器，但现在可能真的没有时间学习，好在发现了NsightEclipse这个好东西，这个IDE可以提供编辑器及调试器的功能，不仅可以写程序，还可以远程直接连接到TX2上进行编译。要说的是，这个在主机上安装Jetpack的时候就已经默认安装了，并且安装了cuda和CUDNN，以及OPENCV。首先做一些准备工作：
和蔼的zhxing·2023-04-05 09:38

GPU-cuda编程葵花宝典

GPU编程葵花宝典GPU编程模板(理解意思就好，呵呵~~)：voidmain（）{1在GPU上分配内存即cudaMalloc（第一参数地址指针，第二参数分配大小）2将主机host的数据传送到设备上cudaMemcpy（第一参数给GPU，第二参数给主机，第三参数给大小，cudaMemHostToDevice）3调用Kernel函数并行计算（模板为：_global_>>void函数名（参数，...,参
Tsingke·2023-04-03 01:00

CUDA编程中线程分配的数组在register中还是local memory中？

问题很简单，当我们在编写KERNEL的时候，分配了一个数组，那么这段数组空间是在register中，还是localmemory中呢？通过几个测试，我们可以来看一下：首先一些定义：#defineBLOCK_SIZE32#defineGRID_SIZE1#defineARRAY_SIZE32第一个kernel测试，静态索引staticindexing，代码：__global__voidkernel1(
xiewen_bupt·2023-04-02 09:13

NVIDIA GPU SM和CUDA编程理解

SM硬件架构基础不同架构的变化可以参考：从AI系统角度回顾GPU架构变迁--从Fermi到Ampere(V1.2)-知乎英伟达GPU架构演进近十年，从费米到安培-知乎VoltaGV100StreamingMultiprocessor(SM)GA100StreamingMultiprocessor(SM)GA102StreamingMultiprocessor(SM)上面展示了几个不同架构SM的区别
Luchang-Li·2023-04-02 08:55

CUDA学习笔记(二)

CUDA学习笔记(二)参考教程：1.QINZHAOYU/CudaSteps2.cuda编程（一）基础3.CUDAC/C++教程一：加速应用程序四.CUDA程序的错误检测1.运行CUDAapi时候添加如下宏
Darchan·2023-04-01 02:51

CUDA编程与硬件架构理解

NvidiaGPU的CUDA编程模型预览版，内容有待完善。1.Kernelkernel函数是CUDA单个线程所执行的函数。
simple_whu·2023-03-31 20:57

CUDA协作组详解

CUDA中的协作组1.协作组简介CooperativeGroups是CUDA9中引入的CUDA编程模型的扩展，用于组织通信线程组。
扫地的小何尚·2023-03-31 18:35

【笔记】CUDA（二） - （异步）SIMT 架构

（异步）SIMT架构在CUDA编程模型中，线程是进行计算或内存操作的最低抽象级别。从基于NVIDIAAmpereGPU架构的设备开始，CUDA编程模型通过异步编程模型为内存操作提供加速。
骆言·2023-03-31 18:32

cuda编程的规约策略-MINRES算法的进阶优化

详细内容可以先参考本人知乎了解细节添加链接描述CUDA编程的常见问题1：Error:CUDAdriverversionisinsufficientforCUDAruntimeversion，这个问题一般是任务在登录节点运行出现的
Galerkin码农选手·2023-03-31 07:04

GPU-CUDA编程学习（四）-共享内存

Sharedmemory共享内存在芯片上可用，因此它比全局内存快得多。共享内存延迟大约比未调用的全局内存延迟低100倍。来自同一块的所有线程都可以访问共享内存。这在许多需要与其他线程共享结果的应用程序中非常有用。但是，如果没有同步，也会产生混乱或错误的结果。如果一个线程在其他线程写入数据之前从内存中读取数据，那么可能会导致错误的结果。因此，应该适当地控制或管理内存访问。这是由剩余的**syncth
☞北海北☜·2023-03-30 21:00
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他