cuda(GPU

[CUDA 学习笔记] Reduce 算子优化

Reduce算子优化注:本文主要是对文章【BBuf的CUDA笔记】三，reduce优化入门学习笔记-知乎的学习整理Reduce又称之为归约,即根据数组中的每个元素得到一个输出值,常见的包括求和(sum)
PeakCrosser·2024-02-14 10:39

Metal初探

1.Metal简介Metal是苹果为了减少对OpenGLES的依赖所封装的框架，在iOS系统中，Metal可以发挥GPU的最大性能。
Jeffery_zc·2024-02-14 06:25

【基于ChatGLM搭建本地化知识库 windows10系统】第一部分：Langchain-Chatchat本地化部署，内附遇到问题及解决办法（GPU版本，亲测有效）

本地化部署ChatGLM后，想搭建一个本地化知识库，搜了全网，基本都在推荐Langchain-Chatchat项目，因此就部署一下，我部署的时间是2023年11月29日，在github上作者刚更新了文件，因此在部署过程中与原来论坛里的经验有些不同，加之本人是小白，所以也踩了一些坑，故在这里总结一下，以供参考。一、部署服务器主要配置操作系统：Windows10；内存：32GB;显卡：rtx3060，
wkchaha673·2024-02-14 06:15

chatglm3-6b使用

ChatGLM3:ChatGLM3series:OpenBilingualChatLLMs|开源双语对话语言模型创建环境condacreate-nchatglm36python=3.11.7修改源码中依赖，使得使用cuda
一个java开发·2024-02-14 06:43

langchain==win11搭建使用GPU

annaconda安装Python3.11.7下载代码：GitHub-chatchat-space/Langchain-Chatchat:Langchain-Chatchat（原Langchain-ChatGLM）基于Langchain与ChatGLM等语言模型的本地知识库问答|Langchain-Chatchat(formerlylangchain-ChatGLM),localknowledge
一个java开发·2024-02-14 06:41

wget ip_全球主要半导体IP厂商28家！

▼全球TOP15半导体IP厂商排名情况ARM：处理器IP龙头得益于移动CPU市场的垄断地位，ARM成为了全球CPUIP和GPUIP的最大供应商。
weixin_39618956·2024-02-14 06:38

探梦方寸间 移动终端CPU、GPU浅析（转）

转自：http://blog.csdn.net/billowszpt/article/details/6569095清晨，你的第一声叫醒闹钟往往来自手机；在出门前，你更愿意在你的背包中装入一部iPad，而不是笔记本电脑；旅途中，你希望可以用NDSL和移动互联网来打发漫长的时光……在2010年之前，我们总是习惯从“数码”类的功能角度去了解和选购它们，不过，情况正在发生变化。正如传统PC市场一样，这些
FarEast8612·2024-02-14 06:37

移动终端CPU、GPU浅析

；CPU、GPU浅析；我们对传统PC市场的CPU如数家珍，英特尔、AM；指令是CPU能听懂的语言，正如人类的语言一样，词；CISC强大高效，RISC简洁容易，这本是两个不；英特尔成功的要素之一是向前兼容性
pizi0475·2024-02-14 06:37

Unity,UE,webGPU区别

Unity,UE,webGPU区别UnityUEwebGPUUE和Unity技术选型UE和Unity都是游戏引擎。
Ybb_studyRecord·2024-02-14 05:55

【白话前端】快速区分webGL，webGPU，unity3D和UE4

一、四者都能进行3D图形渲染它们之间有一些区别，下面我将对它们进行简单的区分：WebGPU：WebGPU是一种Web图形API，是基于底层的GPU硬件架构设计的，可以更好地利用现代GPU的并行计算能力，
贝格前端工场·2024-02-14 05:54

opengl中VAO和VBO的关系

VBO是CPU和GPU传递信息的桥梁，**我们把数据存入VBO是在CPU上操作，VBO会自动将数据送至GPU。**送至GPU不需要任何人为操作。
jenny_paofu·2024-02-14 05:20

华为OD机考统一考试C卷 GPU 调度/执行时长（C++ Java JavaScript Python）

华为OD机考:统一考试C卷+D卷+B卷+A卷2023年11月份，华为官方已经将华为OD机考：OD统一考试（A卷/B卷）切换到OD统一考试（C卷）和OD统一考试（D卷）。根据考友反馈：目前抽到的试卷为B卷或C卷/D卷，其中C卷居多，按照之前的经验C卷D卷部分考题会复用A卷/B卷题，博主正积极从考过的同学收集C卷和D卷真题，可以查看下面的真题目录。真题目录：华为OD机考机试真题目录（C卷+D卷+B卷+
程序员半夏·2024-02-14 04:46

【华为OD机考 统一考试机试C卷】GPU 调度/执行时长（C++ Java JavaScript Python C语言）

华为OD机考:统一考试C卷+D卷+B卷+A卷目前在考C卷，经过两个月的收集整理，C卷真题已基本整理完毕抽到原题的概率为2/3到3/3，也就是最少抽到两道原题。请注意：大家刷完C卷真题，最好要把B卷的真题刷一下，因为C卷的部分真题来自B卷。另外订阅专栏还可以联系笔者开通在线OJ进行刷题，提高刷题效率。真题目录：华为OD机考机试真题目录（C卷+D卷+B卷+A卷）+考点说明专栏：2023华为OD机试(B
算法大师·2024-02-14 04:16

飞桨和torch随机数对齐

traindataloader的时候，建议设置randomseed，对于PyTorch来说#initializerandomseedtorch.manual_seed(config.SEED)torch.cuda.manual_seed_all
skywalk8163·2024-02-14 04:06

Windows的python配置pytorch、torchvision、NVIDIA（英伟达）、cuDNN进行gpu加速计算

相信很多小伙伴在跑深度学习神经网络的时候用cpu跑又慢又占内存，本文将介绍如何将自己电脑增加gpu跑模型的路线，方便加速计算。
苏俗·2024-02-14 04:04

ubuntu下如何查看显卡及显卡驱动

ubuntu下如何查看显卡及显卡驱动使用nvidia-smi工具查看查看显卡型号nvida-smi-L$nvidia-smi-LGPU0:NVIDIAGeForceRTX30504GBLaptopGPU
丰色木夕·2024-02-14 03:44

ubuntu22.04下使用conda安装pytorch(cpu及gpu版本)

本文介绍了conda下安装cpu、gpu版本的pytorch；并介绍了如何设置镜像源ubuntu环境安装pytorch的CPU版本与GPU版本系统：ubuntu22.04显卡：RTX3050依赖工具：miniconda
丰色木夕·2024-02-14 03:14

使用GPUImage实现加水印效果

//摄像机初始化stillCamera=[[GPUImageStillCameraalloc]initWithSessionPreset:AVCaptureSessionPreset1920x1080cameraPosition
懵懂小屁孩·2024-02-14 03:50

pytorch：.cuda() & .cpu() & .data & .numpy()

下面将将tensor转成numpy的几种情况1.GPU中的Variable变量：a.cuda().data.cpu().numpy()2.GPU中的tensor变量：a.cuda().cpu().numpy
不太聪明的亚子·2024-02-14 00:39

英伟达依托AI市值超谷歌，这波AI浪潮，你赶上了吗

PS：如果你需要使用ChatGPT，可以参考这篇文章：【新手向】ChatGPT入门指南-订阅GPT4之前必须了解的十件事情英伟达，一家以其高性能GPU而闻名的科技巨头，最近的市值飙升至1.8万亿美元，超越了谷歌和亚马逊
扑扑特桔·2024-02-13 23:13

使用深度学习进行验证码识别系统搭建（附项目资源）

总结与展望项目资源开发环境作者：嘟粥yyds时间：2023年7月21日集成开发工具：PyCharmProfessional2021.1和GoogleColab集成开发环境：Python3.10.6第三方库：tensorflow-gpu2.10.0
粥粥坠腻害·2024-02-13 21:41

APP 优化

CPU-中央处理器对象的创建和销毁，对象属性的调整，布局计算，文本的计算和排版，图片的格式转换和解码，图像的绘制GPU-图形处理器纹理的渲染，最大纹理尺寸是4096x4096CPU——计算——GPU——
qinxi·2024-02-13 21:05

ModuleNotFoundError: No module named ‘mmcv._ext‘

我的是torch1.6.cuda10.2：pipinstallmmc
Mr.Q·2024-02-13 21:03

python3.8.8显示ModuleNotFoundError: No module named ‘mmcv’

ModuleNotFoundError:Nomodulenamed‘mmcv’pipinstallmmcv不管用打开https://github.com/open-mmlab/mmcv按照torch和cuda
曹家小圆宝·2024-02-13 21:32

amdgpu内核中ringbuffer和indirect buffer

IB(IndirectBuffer)间接缓冲特定引擎的命令缓冲区。与直接向队列中写入命令不同，您可以将命令写入一块内存，然后将指向该内存的指针放入队列中。然后，硬件将跟随指针并执行内存中的命令，然后返回到环中的其余命令。如图ringbuffer.drawio.png
人间正道是沧桑a·2024-02-13 17:44

fasterrcnn从gpu切换到cpu版本

从git拿到的程序是gpu版本的，如果想要在本地cpu执行是需要做如下修改的：第一步：将/lib/model/nms_wrapper.py中fromnms.gpu_nmsimportgpu_nms注释掉第二步
conner是位好少年·2024-02-13 16:11

Mac版 stable diffusion点生成没反应（M2）

upsample_nearest2d_channels_last"notimplementedfor'Half'查阅资料后发现有两种方法：1.打开webui-macos-env.sh文件进行如下更改Change:exportCOMMANDLINE_ARGS="--skip-torch-cuda-test
duan030·2024-02-13 14:58

LocalAI 部署(主要针对 mac m2 启动)

它无需GPU，还有多种用途集成，允许您使用消费级硬件在本地或本地运行LLM、生成图像、音频等等，支持多个模型系列。
不正经写文章的我·2024-02-13 12:33

Windows安装DeepSpeed

解决方案需要提前安装：PyTorch，版本最好>=1.9CUDA或ROCm编译器，如nvcc或hipcc安装VisualStudio，如2019自行编译pythonsetup.pybdist_
XerCis·2024-02-13 12:30

2019-05-31

AE中GPU水银加速加速对视频制作和渲染的作用一、可以提升部分渲染速度AE预测的渲染时间比较准确，同样的视频，用CPU渲染，可以看到一共大概需要1个半小时左右，把GPU加速打开，看看效果,只需要40分钟就可以渲染完成
循序渐进1655·2024-02-13 09:25

解决gpu没有运行进程，但是显存一直占用的方式

------------------------------------------------------------+|NVIDIA-SMI410.104DriverVersion:410.104CUDAVersion
喝粥也会胖的唐僧·2024-02-13 08:08

实验室服务器使用指南06：kill-9杀不死进程及无进程占用GPU但显存占用大

参考资料杀掉kill-9杀不死的进程nvidia-smi无进程占用GPU但GPU显存被占用很多1.最初是想杀掉8208这个进程，然后很自然地就想kill-982082.用了kill-9这个命令之后就发现
Coder_L2·2024-02-13 08:07

终止进程后，GPU显存仍被占用问题 | kill -9彻底杀死进程 | ps aux|grep python

本文部分内容参考博客，十分感谢！！！问题描述：在Linux终端把进程终止后，发现显存没有被释放出来！Figure1显示所有进程psaux|greppython这个命令是在Linux操作系统中使用的，用于列出当前运行的进程，并通过管道（|）将其结果传递给grep命令来筛选包含特定文本的行。具体来说，psaux|grep命令的各个部分以及它们的含义为ps:这是一个用于显示当前正在运行的进程的命令。它的
eeeasyFan·2024-02-13 08:37

java8 List去重

一、去除List中重复的Stringpublicstaticvoidmain(String[]args){ListstringList=newArrayListnewTreeSetstudentList
AmBestToday·2024-02-13 06:53

多GPU-TensorFlow

模型并行:根据不同模型设计不同并行方式，模型不同计算节点放在不同GPU或者机器上进行计算。
听风1996·2024-02-13 05:22

解决css3卡顿和性能优化

今天遇到一个比较棘手的问题css3的动画卡顿比较厉害于是找各种方法并一一去试学会简单的处理方法和部分渲染原理是否启用硬件加速GPU(GraphicsProcessingUnit)?
zz77zz·2024-02-13 04:41

Deep Learning Workload Scheduling in GPU Datacenters:Taxonomy, Challenges and Vision 论文阅读

【论文阅读笔记】DeepLearningWorkloadSchedulinginGPUDatacenters:Taxonomy,ChallengesandVision论文链接GPU数据中心的DL工作负载调度
牛码当驴·2024-02-13 02:31

android 卡顿定位

工具：1.真机GPU呈现模式分析作用：判断哪些操作耗时过长2.真机调试GPU过度绘制作用：显示绘制层级3.ASprofile作用：查看内存流量cpu电量使用情况4.打包LeakCanary作用：检测内存泄漏
Ghost2019·2024-02-12 21:06

AI工程化工具设计

将下载的图片，一键式改名；3，需要有一个方便的，自动化的标注工具，提高标注效率4，需要有一个方便的，图形化的训练和测试工具，自动训练，并给出训练结果报告5，需要有一个方便的部署工具，方便把模型部署到CPU/GPU
LabVIEW_Python·2024-02-12 21:44

查看gpu使用情况

命令行方式查询gpu设备使用情况nvidia-smi--query-gpu=memory.free,memory.used,utilization.gpu--format=csv
kevin_darkelf·2024-02-12 20:13

RK3588平台开发系列讲解（AI 篇）什么是NPU

在谈这个问题之前，可以先来看看什么是CPU和GPU,CPU就是中央处理器，中央处理器就好像是人类的大脑，主要负责各种逻辑控制和任务调度。所以CPU的计算能力相对来说不是最强的。
内核笔记·2024-02-12 19:35

解决什么问题需要大的计算机算力,突破极限！清华研发出新技术，可大幅提升计算机算力...

该成果所研发的基于多个忆阻器阵列的存算一体系统，在处理卷积神经网络(CNN)时的能效比图形处理器芯片(GPU)高两个数量级，大幅提升了计算设备的算力，成功实现了以更小的功耗和更低的硬件成本完成复杂的计算
weizbbs·2024-02-12 17:24

大模型推理优化实践：KV cache 复用与投机采样

该引擎与当前广泛使用的多种主流模型兼容，并通过采用高性能的CUDA算子来实现了如PagedAttention和ContinuousBatching等多项优化措施。
阿里技术·2024-02-12 15:01

阿里集团基于 Fluid+JindoCache 加速大模型训练的实践

在计算方面，以GPU和FPGA等异构硬件为例，他们通过短周期的迭代和演进来适应不断变化的需求。阿里集团通过统一调度、统一资源池以及全面弹性等调度手段满足了复杂的计
阿里技术·2024-02-12 15:00

快速构建 Tensorflow GPU 开发环境（Ubuntu / macOS）- 2023年

文章目录安装Anaconda/Miniconda安装NividaGPU驱动安装cudatoolkit和cudnn设置环境变量安装Tensorflow测试GPU是否开启成功AppleM1/M2安装GPU支持
Ryan HUST·2024-02-12 13:05

pytorch_quantization/cuda_ext.cpython-310-x86_64-linux-gnu.so: undefined symbol: _ZN3c106detail1

pytorch_quantization/cuda_ext.cpython-310-x86_64-linux-gnu.so:undefinedsymbol:_ZN3c106detail1pytorch_quantization
szZack·2024-02-12 12:46

OSError: libcudart.so.11.0: cannot open shared object file: No such file or directory

OSError:libcudart.so.11.0:cannotopensharedobjectfile:Nosuchfileordirectory完美解决：OSError:libcudart.so.11.0
szZack·2024-02-12 12:16

Vitis AI 集成

更多TVM中文文档可访问→ApacheTVM是一个端到端的深度学习编译框架，适用于CPU、GPU和各种机器学习加速芯片。
·2024-02-12 12:42

机器学习案例2：使用 plaidML在 macOS利用GPU进行机器学习

想要在Mac的集成AMDGPU或外部显卡上训练机器学习模型？PlaidML就是您的最佳选择。任何尝试过在macOS上使用TensorFlow训练神经网络的人都知道这个过程有点糟糕。
suoge223·2024-02-12 09:25

CentOS 7.9安装Tesla M4驱动、CUDA和cuDNN

正文共：1333字21图，预估阅读时间：2分钟上次我们在Windows上尝试用TeslaM4配置深度学习环境（TensorFlow识别GPU难道就这么难吗？还是我的GPU有问题？），但是失败了。
Danileaf_Guo·2024-02-12 08:41
上一页 46 47 48 49 50 51 52 53 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他