CUDA编程

宏定义中的反斜杠"\"和宏定义的细节说明

最近在学习CUDA编程，于是写了如下代码：#defineCHECK(call)\{\constcudaError_terror=call;\if(error!
Wonshington·2023-10-10 15:56

【高性能计算】CUDA编程之OpenCV的应用（教程与代码-4）//test error

imread命令将返回以蓝色、绿色和红色（BGR格式）开头的三个通道处理视频的main函数中需要做的第一件事是创建VideoCapture对象。GPUCUDA模块中的函数都定义在cv::cuda命名空间中，将设备上配置给图像数据用的显存块作为其参数。gettickcount函数返回启动系统后经过的时间（以毫秒为单位）使用具有CUDA的opencv进行阈值滤波#include#include"ope
感知算法工程师·2023-10-07 08:51

CUDA编程——设备属性的使用

根据cudaGetDeviceCount()和cudaGetDeviceProperties()中返回的结果，我们可以对每个设备进行操作。代码如下:intmain(void){cudaDevicePropprop;intdev;cudaGetDevice(&dev);printf("IDofcurrentCUDAdevice:%d\n",dev);memset(&prop,0,sizeof(cud
学而思勉·2023-10-06 15:11

CUDA C编程权威指南：1.1-CUDA基础知识点梳理

  主要整理了N多年前（2013年）学习CUDA的时候开始总结的知识点，好长时间不写CUDA代码了，现在LLM推理需要重新学习CUDA编程，看来出来混迟早要还的。
NLP工程化·2023-10-05 05:06

CUDA C编程权威指南：1-基于CUDA的异构并行计算

CUDA编程难吗？干就是了。一.异构架构编程思维1.异构架构  一个典型的
NLP工程化·2023-10-05 04:54

CUDA编程-01： 搭建CUDA编程环境

CUDA简介CUDA是英伟达开发的一种并行计算平台和编程模型，使用它可以让编程人员非常方便地利用GPU强大的算力。支持CUDA的GPU有数百个内核，可以同时运行数千个计算线程，这些内核拥有共享的资源，包括寄存器文件和共享内存，片上共享内存允许在这些内核上运行的并行任务共享数据而无需通过系统内存总线发送数据。CUDA基于以下设计目的进行开发：为标准编程语言（C/C++）提供一小组扩展支持并行算法的直
DeepDriving·2023-10-04 10:26

centos7 cuda测试_cuda编程学习之路（1）：centos7下cuda7.5环境搭建

一、PRE-installation-action工欲善其事必先利其器，在安装显卡驱动及cuda环境搭建之前，必须先走完以下步骤：*计算机是否有Nvidia出厂的GPU。(cuda是Nvidia自己推出的，各硬件厂商专为自家产品打造)*计算机所运行的Linux版本是否被CUDA所支持。*计算机是否安装gcc和GNUtoolchain开发包。*检查是否有正确的kernelheaders。*下载NVI
weixin_39697660·2023-10-04 10:26

GPU编程(一): Ubuntu下的CUDA8.0环境搭建

nouveau安装驱动安装CUDA8.0第一个CUDA程序向世界问好最后前言在Linux下安装驱动真的不是一件简单的事情,尤其是显卡驱动,一失败直接进不去系统都是很可能的.我在经历了无数折磨之后终于搭起了CUDA
seandepp·2023-10-04 10:54

ubunt 上进行c++ cuda编程

目录概述cmake代码：头文件代码：头文件对应的cuda代码实现：c++的代码：运行结果参考资料概述首先先通过一个简单的demo来演示cuda编程是怎么进行的。
谢大旭·2023-10-04 10:23

[人工智能-深度学习-41]：开发环境 - GPU进行训练安装与搭建（Pytroch、TensorFlow、Nvidia CUDA）详细过程

的博客_文火冰糖的硅基工坊_CSDN博客本文网址：https://blog.csdn.net/HiWangWenBing/article/details/121241620目录第1章英伟达NvidiaCUDA
文火冰糖的硅基工坊·2023-10-04 10:22

CUDA编程(二): Ubuntu18.04LTS下的CUDA10.0环境搭建

nouveau安装驱动安装CUDA8.0第一个CUDA程序向世界问好最后前言在Linux下安装驱动真的不是一件简单的事情,尤其是显卡驱动,一失败直接进不去系统都是很可能的.我在经历了无数折磨之后终于搭起了CUDA
Damon_X·2023-10-04 10:52

【CUDA编程概念】一、什么是bank conflict？

前言搜了不少答案，大多是在避免BankConflict，很难找到一个关于BankConflict的详细定义，这里找了些资料来尝试解释下；一、基础概念先简单复习下相关概念GPU调度执行流程：SM调度单位为一个warp（一个warp内32个Thread）GPU存储层次：shared_memory可以被一个warp中的所有（32个）线程进行访问sharedmemory内部划分成Bank，一个Bank大小
likewind1993·2023-10-01 09:18

flash attention的CUDA编程和二维线程块实现softmax

本文参考了链接添加链接描述flashattention介绍flashattention的介绍可以参考论文：FlashAttention:FastandMemory-EfficientExactAttentionwithIO-Awareness，具体的数学公式参考下面这个图片：其中注意关于矩阵S有两个维度，softmax的操作维度是dim=1，用pytorch表示就是torch.softmax(S,
Galerkin码农选手·2023-09-20 20:57

expand，where和softmax算子的cuda编程

expand和where介绍当谈到Torch中的expand函数时，我们实际上是指PyTorch（Torch的Python接口）中的expand方法。下面是对expand方法和where函数的介绍，包括它们的输入和输出：expand方法：torch.Tensor.expand()是PyTorch中Tensor类的一个方法，用于扩展张量的维度。输入：input是要扩展的张量，size是一个元组，指定
Galerkin码农选手·2023-09-20 20:57

softmax的cuda编程详细解读——算子融合

softmax介绍在上一篇博客我们介绍了softmax的内容以及相关的编程实现，总结一下softmax的特点如下：（没有特殊说明的情况下，考虑的仍然只是1D向量xxx）1：获得向量的全局最大值M2：针对向量x^={exp⁡(xi−
Galerkin码农选手·2023-09-20 20:57

C++学习|CUDA内存管理代码实例

前言：之前介绍了CUDA入门知识，对CUDA编程有了一个基本了解，但是实际写起来还是遇到很多问题，例如cpp文件该怎么调用cuda文件、cpu和gpu之间内存数据怎么交换、如何编写.cu和.cuh文件之类的
魔法自动机·2023-09-19 18:21

C++学习|CUDA编程入门

CUDA编程入门GPU介绍CUDA介绍NVCC——CUDA编译器cu/cuh文件——CUDA文件核函数——操作GPU线程模型——CUDA逻辑结构CUDA程序运行流程CUDA内存管理GPU介绍GPU（GraphicsProcessingUnit
魔法自动机·2023-09-19 18:21

3. Error Handle和获取硬件信息

3.CUDAErrorHandle一个良好的cuda编程习惯里，我们习惯在调用一个cudaruntimeapi时，例如cudaMalloc()cudaMemcpy()我们就用errorhandler进行包装
智障学AI·2023-09-14 07:37

VSCode之C++ & CUDA极简环境配置

背景想要了解CUDA并行计算原理，同时针对深度学习中出现一些“不支持算子”可能需要手写的需要，配置一个简单的CUDA编译环境，探索CUDA编程的范式【注：CUDA环境配置略】。
qq_37172182·2023-09-03 06:13

cuda编程常见问题

cuda环境配置参考链接https://blog.csdn.net/weixin_43788327/article/details/125823507?spm=1001.2014.3001.5506疑难问题在学习《GPU高性能编程CUDA实战》这本书时，发现书里面的代码很多变量都没定义过，经过搜索发现这都是书上自带的代码。代码相关文件的下载连接如下：https://github.com/Coded
叫我Zane·2023-09-02 21:24

【NVIDIA CUDA】2023 CUDA夏令营编程模型（二）

博客内容主要围绕：5G/6G协议讲解算力网络讲解（云计算，边缘计算，端计算）高级C语言讲解Rust语言讲解文章目录CUDA编程模型——共享内存一、多种CUDA存储单元介绍1.1共享内容
从善若水·2023-09-02 12:51

CUDA编程实战(使用Sobel算子对rgb图片进行边缘检测)

写在前面，本篇文章为一个CUDA实例，使用GPU并行计算对程序进行加速。如果不需要看环境如何配置，可以直接到看代码部分:点击直达关于如何更改代码和理解代码写在这个地方:点击直达运行环境：系统:windows10专业版显卡:NVIDIA1050Ti软件环境:VS2019,NVIDIACUDA,Opencv写在前面:因为本篇文章记录的是CUDA的实例，所以默认已经安装了CUDA和OpenCV的环境，所
SpongeBob@Hefei·2023-08-26 21:11

使用Visual Studio进行cuda编程配置环境四大坑(附解决方案)

写在前面，用于没有使用过VisualStudio进行cuda编程的同学看，以免在安装环境的时候踩到坑第一坑：CUDA版本与NVIDIA显卡版本不匹配问题:安装cuda版本坑，强烈建议看下自己的显卡支持什么版本的
SpongeBob@Hefei·2023-08-26 21:40

cuda编程002—流

没有使用同步的情况：#include#include__global__voidtest_kernel(){printf("MessagefromDevice.\n");}voidtest(){test_kernel>>();}#include#includevoidtest();intmain(){test();printf("MessagefromHost.\n");getchar();ret
Little__Black·2023-08-25 07:03

python编程中fft的优缺点，以及如何使用cuda编程，cuda并行运算，信号处理（推荐）

A.python中cuda编程的库主要有：cupy、pycuda1，区别如下：支持的GPU平台：PyCUDA：PyCUDA是一个用于在Python中编写CUDA代码的库。
鼾声鼾语·2023-08-23 11:40

cuda编程day001

一、环境：①、linuxcuda-11.3opecv4.8.0不知道头文件和库文件路径，用命令查找：#find/usr/local-namecuda.h2>/dev/null#查询cuda头文件路径/usr/local/cuda-11.3/targets/x86_64-linux/include/cuda.h#find/usr/local-namelibcudart.so2>/dev/null#查
Little__Black·2023-08-23 07:17

CUDA编程之GPU图像数据结构的设计

第1章GPU图像数据结构参考OpenCV中Mat和GpuMat的设计，对当前Image类设计了GPU版本，即GPUImage。1.1.GPU图像头设计图像头。structGPUImageHeader{int32_tnWidth=0;//宽度int32_tnHeight=0;//高度int16_tnChannel=0;//通道数int32_tnRefCount=0;//引用计数void*pImage
仟人斩·2023-08-20 18:25

cuda学习

cuda是用于在英伟达gpu上编程的编译器和工具支持gpu的异构计算cudaAPI扩展了c/c++编程语言快速SIMD并行性从硬件上提供了高级别的抽象cuda编程流程从host端将数据拷贝到device
摆渡人001124·2023-08-12 00:36

CUDA编程

银河系CUDA编程指南(3)——矩阵乘法的分块实现银河系CUDA编程指南(3)——矩阵乘法的分块实现-知乎0写在前面前面一节实现了一个朴素的GPU矩阵乘法，效果和使用cublas库差距极大。
a flying bird·2023-08-10 09:18

推荐几个不错的CUDA入门教程

推荐几个不错的CUDA入门教程（非广告）-阿里云开发者社区推荐几个不错的CUDA入门教程（非广告）https://new-developer.aliyun.com/article/1235987CUDA
a flying bird·2023-08-10 09:18

CUDA C++ Programming Guide(Version 10.0) —— 2. Programming Model

CUDA编程-ProgrammingModelKernelsThreadHierarchy（线程层次结构）MemoryHierarchy（内存层次结构）HeterogeneousProgramming(
Axiiiz·2023-08-10 03:42

CUDA C++ PROGRAMMING GUIDE CH2 PROGRAMMING MODEL

这一章主要介绍CUDA编程模型的主要概念，详细描述在第三章：programminginterface里。
wineandchord·2023-08-10 03:12

CUDA C++ Programming Guide(Version 10.0) —— 1. Introduction

CUDA编程-Introduction从图像处理到通用并行计算CUDA是NVIDIA提出的一个通用并行编程平台可扩展的编程模型从图像处理到通用并行计算图1.CPU和GPU的每秒浮点运算图2.CPU和GPU
Axiiiz·2023-08-10 03:12

《CUDA C++ Programming Guide》阅读笔记（每页要点总结）

学习CUDA编程。最终要达到啥效果呢，希望可以读懂cudasift的源码。
Jiangnan_Cai·2023-08-10 03:12

cuda系列详细教程

同时，面对市场诸多教程与诸多博客岑子不起的教程或高昂教程费用，使读者(特别是小白)容易迷糊，无法快速入手CUDA编程，实现工程化。因此，我将结合我的工程实战经验，我将在本专栏实现CUDA系列教程，帮
tangjunjun-owen·2023-08-09 01:39

浅析GPU计算——CPU和GPU的选择

所以我希望能写出一篇可以体现技术脉络感的文章，让读者可以比较容易理解该技术，并可以感悟到cuda编程设计及优化的原理。（
笑火云天·2023-08-08 14:25

笔记03：CUDA执行模型

通过配置文件驱动的方法优化内核理解线程束执行的本质增大GPU的并行性掌握网格和线程块的启发式配置学习多种CUDA的性能指标和事件了解动态并行与嵌套执行一、CUDA执行模型概述CUDA编程模型中两个主要的抽象概念
m0_46521579·2023-08-04 15:29

cuda入门demo（1）——矩阵相乘

最近定一个小目标，把今年学习的cuda编程知识从零碎化掌握转化到系统化掌握，所以开一个cuda入门demo系列，记录一些经典demo。
umbrellalalalala·2023-08-03 13:41

2019-03-07 CPU和GPU的CMakeLists的

文件结构如下：主文件中的文件cuda文件夹中的文件将cuda编程的文件和头文件都放在cuda文件夹中，使条目清晰一些。
韦德爱老詹·2023-08-02 21:00

关于VS2017 +CUDA9.1编译出现MSB3721error。

1.检查电脑GPU配置（1）首先建议下一个GPU-Z查询电脑是否有CUDA编程能力。
weixin_42370246·2023-08-02 11:20

笔记02：CUDA编程模型

一、CUDA编程模型概述1.CUDA编程结构在一个异构环境中包含多个CPU和GPU，每个GPU和CPU的内存都由一条PCI-e总线分隔开，需要注意区分（1）主机：CPU及其内存（主机内存）（2）设备：GPU
m0_46521579·2023-08-01 20:17

《cuda c编程权威指南》02 - 内存管理和线程管理

一个典型的CUDA编程结构包括5个主要步骤。分配GPU内存。从CPU内存中拷贝数据到GPU内存。调用CUDA内核函数来完成程序指定的运算。将数据从GPU拷回CPU内存。释放GPU内存空间。
Mr.Q·2023-08-01 03:58

《cuda c编程权威指南》01- 用gpu输出hello world

目录1.使用cpu输出helloworld2.使用gpu输出helloworld3.CUDA编程结构1.使用cpu输出helloworldhello.cu#includevoidhelloFromCPU
Mr.Q·2023-08-01 03:57

CUDA编程教学 | CUDA内存模型（寄存器/本地内存/共享内存等）

点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【模型部署】技术交流群后台回复【CUDA】获取CUDA实战书籍！CUDA内存模型在CUDA中可编程内存的类型有：寄存器(Registers)本地内存(LocalMemory)共享内存(SharedMemory)常量内存(ConstantMemory)纹理内存(TextureMemory)全局内存(GlobalM
自动驾驶之心·2023-08-01 03:27

CUDA C编程及GPU基本知识【二】

2、CPUs:延迟导向设计和GPUs:吞吐导向设计2.1CPUs:延迟导向设计2.2GPUs:吞吐导向设计2.3GPU&CPU特点2.4GPU编程：什么样的问题适合GPU3、GPU编程与CUDA3.1CUDA
全息数据·2023-07-27 02:39

CUDA编程入门之__c/c++的指针与二级指针

CUDA编程入门之__指针与二级指针c、c++指针的作用指针作为c的灵魂，相信已经困扰了大家很久，希望我可以带给大家一篇用人话来解说：在C语言中，访问变量的方式有两种：1、通过变量名访问（例如说去什么花店
南陵花神·2023-07-25 15:01

CUDA之指针篇

同时，面对市场诸多教程与诸多博客岑子不起的教程或高昂教程费用，使读者(特别是小白)容易迷糊，无法快速入手CUDA编程，实现工程化。因此，我将结合我的
tangjunjun-owen·2023-07-25 15:59

intel 显卡使用cuda吗

Intel和AMD的显示芯片都不能进行CUDA编程。想要让cuda环境搭建在Windows8.1下搭建能利用GPU并行运算，必须有支持GPU并行运算的Nvidia显
lyc0424·2023-07-21 04:42

在没有nvidia显卡的环境下学些cuda编程

https://developer.nvidia.com/cuda-toolkit-archive在没有nvidia显卡的环境下学些cuda编程：1）下载cudatoolkit2.3，新版本已经不支持cuda
ljh081231·2023-07-21 04:12

[cuda 技术总结1] 第一次调用 cuda 库函数 耗时很长

在cuda编程中，发现调用cuda文件总耗时一百多ms，而纯kernel计算时间才3ms。时间都去哪了？
L1_Zhang·2023-07-15 14:33
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他