CUDA编程

CUDA编程基础——Grid、Block、Thread

本文主要介绍三者之间的关系。三者之间关系如图所示，从中可以看出，三者存在包含关系。每个grid分为多个block，每个block分为多个Thread，grid和block最多可以是三维的。dim3gridsize(2,2)2*2*1dim3blocksize(2,2)2*2*11.jpg
ThalesW·2023-03-30 05:39

CUDA编程：操作PTX文件

1、编译CUDA文件，得到PTX文件。nvcc-arch=sm_20-keep-ot266t266.cu2、修改PTX文件3、nvcc-dryrun-arch=sm_20-ot266t266.cu--keep2>dryrun.out4、把-o"t266.ptx"之后的命令分步执行5、执行
Mr_Stark的小提莫·2023-03-16 23:07

8.CUDA编程手册中文版---附录D动态并行

developer.nvidia.com/zh-cn/developer-program来加入NVIDIA开发者计划D.1.IntroductionD.1.1.OverviewDynamicParallelism是CUDA
扫地的小何尚·2023-03-14 07:34

深度学习部署(十一): CUDA RunTime API 核函数

1.核函数的核函数是cuda编程的关键通过xxx.cu创建一个cudac程序文件，并把cu交给nvcc编译，才能识别cuda语法__global__表示为核函数，由host调用。
智障学AI·2023-03-14 07:03

VScode+cuda编程常见环境问题的解决

目录1、VScode终端问题(PS)2、编译问题(CUDA版本过低)3、nvcc编译问题(arch架构)1、VScode终端问题(PS)问题描述：在VScode下打开终端执行nvcc指令，发现执行不了，但是在外部终端powershell和cmd都可以。发现PS问题问题现象：PSD:\CUDA_test>nvcc-arch=sm_80-ohello-gpuhello-gpu.cu-runnvcc:无
·2023-03-13 00:01

cuda linux 算力_CUDA 3.0 编程接口

CUDAC将CUDA编程模型作为C的最小扩展集展示出来。任何包含某些扩展的源文件必须使用nvcc编译，nvcc的概要在3.1节。
机智的娜娜·2023-02-22 09:00

cuda编程python接口_Python环境下使用OpenCV Cuda编程

1、构建opencv_contrib模块，目录结构如下：1.1cuda2.hpp内容如下：#ifndef__OPENCV_CUDA2_HPP__#define__OPENCV_CUDA2_HPP__#include"opencv2/core.hpp"#include"opencv2/imgproc.hpp"#includenamespacecv{namespacecuda2{CV_EXPORTS_
weixin_39945816·2023-02-22 09:30

【CUDA开发】CUDA编程接口（一）------一十八般武器

子曰：工欲善其事，必先利其器。我们要把显卡作为通用并行处理器来做并行算法处理，就得知道CUDA给我提供了什么样的接口，就得了解CUDA作为通用高性能计算平台上的一十八般武器。(如果你想自己开发驱动，自己写开发库--那我不得不佩服你很有时间，想必也不会有很多人想自己在去实现一个CUDA吧，呵呵，虽然实现一个也不是太难)。前面我们讲到了一些简单的CUDA的C语言扩展的规则，下面就具体来讲解CUDA给我
weixin_30663471·2023-02-22 09:59

CUDA编程接口：使用nvcc编译器的兼容性

相关阅读：CUDA编程接口：如何用nvcc编译CUDA程序CUDA编程模型：存储器层次和异构编程CUDA编程模型：内核与线程层次概述CUDA初探：从图形处理到通用并行计算CUDA初探：通用并行
weixin_34080903·2023-02-22 09:28

CUDA编程接口：共享存储器实现矩阵相乘

转自http://cuda.it168.com/a2011/1207/1285/000001285186.shtml正如在前面的文章提到的，共享存储器应当比全局存储器更快，详细内容将在后续文章中介绍。任何用访问共享存储器取代访问全局存储器的机会应当被发掘，如下面的矩阵相乘例子展示的那样。下面的代码是矩阵相乘的一个直接的实现，没有利用到共享存储器。每个线程读入A的一行和B的一列，然后计算C中对应的元
zbxzc·2023-02-22 09:27

CUDA编程接口:异步并发执行的概念和API

相关阅读：CUDA编程接口：分页锁定主机存储器CUDA编程接口：共享存储器实现矩阵相乘CUDA编程接口：运行初始化与设备存储器CUDA编程接口：使用nvcc编译器的兼容性CUDA编程接口：如
niefeng111·2023-02-22 09:49

(CUDA 编程5).CUDA编程接口（一）------一十八般武器

(CUDA编程5).CUDA编程接口（一）------一十八般武器作者：赵开勇来源:http://www.hpctech.com/2009/0818/203.html子曰：工欲善其事，必先利其器。
dmjlzygx·2023-02-22 09:42

CUDA编程接口

编程接口文章目录编程接口3.1利用NVCC编译3.1.1编译流程3.1.1.1离线编译3.1.1.2即时编译3.1.2Binary兼容性注意：仅桌面支持二进制兼容性。Tegra不支持它。此外，不支持桌面和Tegra之间的二进制兼容性。3.1.3PTX兼容性3.1.4应用程序兼容性3.1.5C++兼容性3.1.664位支持3.2CUDA运行时3.2.1初始化注意：CUDA接口使用全局状态，在主机程序
扫地的小何尚·2023-02-22 09:37

CUDA编程之CUDA流

文章目录前言CUDA流在默认流中重叠主机与设备用非默认CUDA流重叠多个核函数的执行重叠多个核函数的例子用非默认CUDA流重叠核函数的执行与数据传递不可分页主机内存与异步的数据传输函数总结参考前言    CUDA程序的并行层次主要有两个，一个是核函数内部的并行，一个是核函数外部的。合理使用CUDA流能实现核函数外部的并行。CUDA流核函数外部并行：（1）核函数计算与数据传输之间的并行（2）主机计算
AI、明察秋毫·2023-02-04 12:16

CUDA编程笔记（8）

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言原子函数完全在GPU中归约性能比较总结前言原子函数的合理使用原子函数    在cuda里，一个线程的原子操作可以在不受其他线程的任何操作的影响下完成对某个（全局或共享内存中）数据的一套“读-改-写”操作，该操作是不可分的。原子函数是对它的第一个参数指向的数据进行一次“读-改-写”的一类原子操作的函数，一气呵成，不可分割。如
AI、明察秋毫·2023-02-04 12:46

CUDA编程笔记（9）

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言单指令-多线程执行模式线程束内的线程同步函数使用线程束同步函数进行数组归约线程束的基本函数使用线程束洗牌函数进行数组归约协作组线程块级别的协作组进一步优化总结参考前言线程数基本函数与协助组单指令-多线程执行模式    在伏特架构之前，一个线程束中的线程拥有同一个程序计算器，但各自有不同的寄存器状态，从而可以根据程序的逻辑判
AI、明察秋毫·2023-02-04 12:15

CUDA编程第四章: 全局内存

前言:本章内容：学习CUDA内存模型CUDA内存管理全局内存编程探索全局内存访问模式研究全局内存数据布局统一内存编程最大限度地提高全局内存吞吐量在上一章中，你已经了解了线程是如何在GPU中执行的，以及如何通过操作线程束来优化核函数性能。但是，核函数性能并不是只和线程束的执行有关。回忆一下第3章的内容，在3.3.2节中，把一个线程块最里面一层的维度设为线程束大小的一半，这导致内存负载效率的大幅下降。
Janus_V·2023-01-31 10:04

CUDA编程：矩阵乘运算从CPU到GPU

作者丨kaiyuan@知乎来源丨https://zhuanlan.zhihu.com/p/573271688本文主要介绍用CUDA实现矩阵乘法运算（C=AxB）的几个基本方法，帮助大家理解矩阵在GPU上面的运算与CPU上的有何异同，通过实践上手CUDA的优化计算，相比基础方法，能提速10倍以上。本文内容涉及到CUDA矩阵1D运算、2D运算、共享内存、CUBLAS的使用。文中的全部code：http
深度学习技术前沿·2023-01-30 12:41

【CUDA编程笔记】（2）CPU与GPU之间的参数传递

利用GPU并行计算的的总体思路是：在CPU（Host）中创建数据，将数据传到GPU（Device）中进行计算，再将计算结果传回到CPU中。最简单的例子：将CPU中的两个数字在GPU中进行相加，并在CPU中输出：#include"cuda_runtime.h"#include"device_launch_parameters.h"#include#include__device__intadd_gp
ctrl A_ctrl C_ctrl V·2023-01-30 12:40

CUDA编程（二）

CUDA编程给我的感觉是1.入门很容易，我大概用了一周的时间
zhanglehes·2023-01-29 16:11

CUDA C Programming Guide

CUDACProgrammingGuide1.ProgrammingModel本章介绍了CUDA编程模型背后的主要概念。
凉凉zz·2023-01-27 13:36

CUDA编程 基础与实践 学习笔记（一）

开个坑…用pytorch太不灵活了，学习一下CUDA编程。研究生都第二年了，坚持不下去就有点丢人了奥。书名见标题，樊哲勇老师的著作，清华大学出版社出版。重点看前面十二章。
zkxhlbt·2023-01-21 21:32

CUDA编程笔记（1）

文章目录前言只有主机代码的cuda程序使用核函数的cuda程序cuda里的核函数cuda中的线程组织多个线程的核函数线程索引扩展至多维线程总结参考：前言CUDA编程的学习，需要熟练的掌握C/C++编程的基础及操作系统方面的知识
AI、明察秋毫·2023-01-21 21:29

CUDA编程笔记（2）

文章目录前言1.CUDA的基本框架直接使用c++编写的数组相加的程序使用cuda核函数的数组相加的程序函数执行空间标识符总结参考：前言cuda程序的基本框架1.CUDA的基本框架头文件常量定义（或者宏定义）C++自定义函数和cuda核函数的声明intmain(){a分配主机与设备内存初始化主机中的数据将某些数据从主机复制到设备调用核函数在设备中进行计算将某些数据从设备复制到主机释放主机与设备内存}
AI、明察秋毫·2023-01-21 21:29

CUDA编程笔记（3）

文章目录前言1.CUDA程序运行时的错误检测检测运行错误的头文件检查运行时的CUDA的api函数检查运行时的CUDA的核函数CUDA-MEMCHECK工具总结前言CUDA程序运行时的错误检测1.CUDA程序运行时的错误检测检测运行错误的头文件像一些日志文件，一般检测错误都会编写一个头文件来包含要检测错误api运行的代码。在基础的cuda程序api的运行检错中，前面已经了解了基本所有的cuda的ap
AI、明察秋毫·2023-01-21 21:29

linux cuda 编程指南,CUDA编程指南阅读笔记

3.3内存层次(MemoryHierarchy)在GPU上CUDA线程可以访问到的存储资源有很多，每个CUDA线程拥有独立的本地内存(localMemory)；每一个线程块(block)都有其独立的共享内存(sharedmemory)，共享内存对于线程块中的每个线程都是可见的，它与线程块具有相同的生存时间；同时，还有一片称为全局内存(globalmemory)的区域对所有的CUDA线程都是可访问的
weixin_39575047·2023-01-21 21:59

cuda编程入门笔记

1.HelloCuda一个基本的hellocuda程序包含以下三个部分：GPU函数前加__global__前缀，且核函数必须为void类型调用GPU函数时指定资源:>>使用同步函数#includevoidcpu(){printf("hellocpu\n");}//1.加上__global__前缀__global__voidgpu(){printf("hellogpu\n");}intmain(){
CV科研随想录·2023-01-21 21:59

CUDA编程笔记

前言此前似乎有写过CUDA的demo，不过后来就放弃了，现在打算重新捡回来，在此记录一下hhh序号名称备注0GPU计算DEMO远古笔记Demo1CUDA【1】HelloWorldDemo2CUDA【2】Addcuda的基本函数以及设备函数的概念3CUDA【3】ErrorCheckErrCheck4CUDA【4】获得GPU加速的关键GPU加速
椰子奶糖·2023-01-21 21:28

【CUDA编程笔记】（1）CUDA C 编程入门

参考资料：《CUDA编程基础与实践》樊哲勇清华大学出版社一、上机环境学校机房，windows，VS2019，CUDA10.2，1080Ti二、核函数的概念GPU只是一个设备，想要工作的话就需要CPU主机给它下达命令
ctrl A_ctrl C_ctrl V·2023-01-21 21:26

CUDA编程学习笔记

重要概念在CUDA中，host和device是两个重要概念，用host指代CPU及其内存，用device指代GPU及其内存。典型CUDA程序的执行流程如下：1.分配host内存，并进行数据初始化；2.分配device内存，并从host将数据copy到device上；3.调用CUDA的核函数在device上完成指定的运算；4.将device上的运算结果copy到host上；上面流程中最重要的部分是调
yukaiwen0102·2023-01-21 21:25

cuda编程笔记

####################################################################cuda环境配置第四课####################################################################https://www.bilibili.com/video/BV1kx411m7Fk?p=4&spm_i
qq_29707567·2023-01-21 21:25

cuda编程学习笔记

pycuda环境配置使用pycuda实现cuda编程，首先需要安装pycuda,conda环境下的具体安装代码如下condainstall-cconda-forgepycudacudaMemcpy的用法
mathematican·2023-01-21 21:54

CUDA编程系统性学习笔记(三)：存储优化

对于GPU并行编程稍有了解的同学，应该知道存储优化是多么重要。减少主机端到设备端的数据传输次数，调用具有合适权限的不同种类的存储，优化数据结构与算法在存储中执行，直接决定了并行的效率。本章我们就来谈下如何针对存储的使用进行优化，来提升并行编程的效率。1.端到端的数据传输最小化Host-Device之间的数据传输速度远低于globalmemory，因此需要减少数据传输的频率。一些基本的优化原则包括：
程序猿老甘·2023-01-21 21:53

cuda编程笔记4（记录gpu耗时）

目录记录GPU运行时常记录GPU运行时常#include"stdio.h"#include#include#include#include"device_launch_parameters.h"intmain(void){//-----------------------------------------------记录时间------------------------------------
LEDyexu·2023-01-21 21:52

CUDA编程笔记（4）

文章目录前言1.CUDA的计时程序2.CUDA程序的计时影响GPU加速的关键总结前言怎么才能看出使用cuda编程，提高了程序的性能，一般都是通过比较程序运行的时间来验证。
AI、明察秋毫·2023-01-21 21:50

使用Visual Studio编写CUDA程序时提示Error（E0029）:应输入表达式的解决方案

先说一下环境：VisualStudio2017+CUDA10.1最近在学CUDA编程，有个程序老是提示这个错误：搜索了很久，网上众说纷纭，有的说是驱动版本有问题，有的说是CUDA跟vs2017的兼容性不好等等
lengmo1996·2023-01-19 04:54

CUDA编程之入门

CUDA代码中的函数CUDA程序文件后缀为.cu。一个.cu文件内既包含CPU程序（称为主机程序），也包含GPU程序（称为设备程序）。凡是挂有“__global__”或者“__device__”前缀的函数，都是在GPU上运行的设备程序，不同的是__global__设备程序可被主机程序调用，而__device__设备程序则只能被设备程序调用。没有挂任何前缀的函数，都是主机程序。主机程序显示声明可以用
USTC暖暖·2023-01-15 10:45

VS2017 CUDA编程学习5：CUDA并行执行-线程

文章目录前言1.线程2.代码实现总结学习资料VS2017CUDA编程学习1：CUDA编程两变量加法运算VS2017CUDA编程学习2：在GPU上执行线程VS2017CUDA编程学习3：CUDA获取设备上属性信息
DU_YULIN·2023-01-12 18:27

读书笔记 - CUDA编程指南5.0 + 练习编译运行 01

文章目录1.导论2.编程模型1.内核2.线程层次3.存储器层次3.异构编程快速入门例子vulkanImageCUDA解决参考前言：会根据CUDA编程指南一点点更新，欢迎讨论。
canmoumou·2023-01-12 17:01

CUDA编程第二章: CUDA编程模型

CUDA编程模型概述:以程序员的角度可以从以下几个不同的层面来看待并行计算。
Janus_V·2023-01-12 17:30

python+cuda编程（一）

文章目录一、简介二、numba使用Python写CUDA程序有两种方式：NumbaPyCUDAnumbapro现在已经不推荐使用了，功能被拆分并分别被集成到accelerate和Numba了。一、简介numbaNumba通过及时编译机制（JIT）优化Python代码，Numba可以针对本机的硬件环境进行优化，同时支持CPU和GPU的优化，并且可以和Numpy集成，使Python代码可以在GPU上运
melicent114·2023-01-12 17:00

CUDA 编程简单入门 Advance CUDA 编程基础 (C++ programming)

AdvanceCUDA编程基础(C++programming)GPU架构CUDA编程基础基本代码框架CUDAExecutionModelCaseStudy:VectorAdd优化方法举例SM共享内存的使用
吃烧鸭·2023-01-12 17:59

一篇文章理解CUDA架构、编程与进阶使用

一篇文章理解CUDA架构、编程与进阶使用一、CUDA架构二、CUDA编程基础1.矩阵加法2.矩阵乘法三、CUDA进阶I——利用共享内存加速访存1.CUDA内存读写速度比较2.申请共享内存四、CUDA进阶
A晨的博客·2023-01-12 17:59

2.CUDA 编程手册中文版---编程模型

2.编程模型更多精彩内容，请扫描下方二维码或者访问https://developer.nvidia.com/zh-cn/developer-program来加入NVIDIA开发者计划本章通过概述CUDA
扫地的小何尚·2023-01-12 17:58

CUDA编程：笔记1

本笔记主要是阅读：谭升的博客的GPU编程（CUDA）1_0并行计算与计算机架构【CUDA基础】1.0并行计算与计算机架构并行计算其实设计到两个不同的技术领域：计算机架构（硬件）：生产工具并行程序设计（软件）：用工具产生各种不同应用1.1并行性写并行程序主要是分解任务，一般把一个程序看成是指令和数据的组合，当然并行也可以分为这两种：指令并行数据并行我们的任务更加关注数据并行。任务并行多出现在各种管理
longlongqin·2023-01-12 17:58

CUDA10.0 官方手册 阅读笔记 章二 CUDA编程模型

以下为本人读CUDA10.0的programmingguide的读书笔记，部分为直接翻译重点内容。2.1kernelKernel函数是CUDAC拓展了C，使用户可以通过定义C函数来编写CUDA函数。与只执行一次的C函数不同，如果kernel执行N次，则它会被分配到N个不同的CUDAthread中。kernel通过”__global__”来定义，”>>”来配置并调用kernel。每一个执行kerne
lvxiangyu11·2023-01-12 17:58

【CUDA编程】CUDA入门笔记

文章目录1.CUDA结构2.SP、SM与warp3.CUDA线程索引的方式4.CUDA的内存5.编程模型（1）怎么确定是在CPU还是GPU上跑？（2）CPU与GPU的数据传输（3）怎么用代码表示线程组织模型1.CUDA结构显卡内部，有三级结构：网格（grid）、块（block）、线程（thread）。每个显卡只有很少的网格，一个核函数只能运行在一个网格中，而一个网格里有多个块，每个块包含了若干线程
非晚非晚·2023-01-12 17:57

CUDA编程学习笔记-already_true

主要参考CUDA编程入门极简教程,CUDA从入门到精通，CUDA——从入门到放弃，CUDA编程入门推荐书籍：《GPU高性能编程CUDA实战》（可操作性强）、《GPGPU编程技术》（全面客观详细介绍通用GPU
actually_ture·2023-01-12 17:57

CUDA编程 基础与实践 第6章学习笔记

6.1CUDA的内存组织简介目录6.1CUDA的内存组织简介CUDA中不同类型的内存6.2.1全局内存6.2.2常量内存6.2.3纹理内存和表面内存6.2.4寄存器6.2.5局部内存6.2.6共享内存6.2.7L1和L2缓存6.3SM及其占有率6.3.1SM的构成6.3.2SM的占有率6.4用CUDA运行时API函数查询设备现代计算机的内存中往往存在一种组织结构（hierarchy）。在这种结构中
HONGHongmao·2023-01-12 17:26

CUDA 编程模型

CUDA编程模型这部分将重点介绍CUDA编程模型的两个主要的抽象概念：内存层次结构和线程层次结构，它们能够控制大规模并行GPU。
A-Egoist·2023-01-12 17:56
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他