CUDA)

已解决：python多线程使用TensorRT输出为零？附tensorrt推理代码

设备：cuda12.1,cudnn8.9.2,tensorrt8.6.11.问题tensorrt的推理没输出？？？
李卓璐·2025-03-20 18:11

CUDA编程基础

一、快速理解CUDA编程1.1CUDA简介CUDA（ComputeUnifiedDeviceArchitecture）是由NVIDIA推出的并行计算平台和应用程序接口模型。
清 澜·2025-03-20 17:35

2025年开发者工具全景图：IDE与AI协同的效能革命

腾讯云等平台技术文档与行业趋势分析）一、核心工具链的务实演进与配置指南主流开发工具的升级聚焦于工程化适配与智能化增强，以下是2025年开发者必须掌握的配置技巧：1.VSCode：性能优化与远程协作标杆核心特性：CUDA
He.Tech·2025-03-20 14:45

bitsandbytes 报错

用nvidia-smi查看CUDA版本，我的是12.2。
HuggingMe·2025-03-20 08:55

centos7输入python -m bitsandbytes报错CUDA Setup failed despite GPU being available. Please run the follo

在centos7.9系统中安装gpu驱动及cuda，跑大模型会报错，提示让输入python-mbitsandbytes依然报错：CUDASETUP:Loadingbinary/usr/local/python3
小太阳，乐向上·2025-03-20 08:21

关于bitsandbytes安装报错

RunTimeError:CUDASetupfaileddespiteGPUbeingavailable.InspecttheCUDASETUPoutputsabovetofixyourenvironment
跃跃欲试88·2025-03-20 07:18

python -m bitsandbytes 报错解释与解决

RuntimeError:CUDASetupfaileddespiteGPUbeingavailable.Pleaserunthefollowingcommandtogetmoreinformation
MityKif·2025-03-20 07:44

c++高性能多进程 cuda编程: safe_softmax实现 + cub::BlockReduce自定义归约操作

BlockReduce自定义归约操作(`cub::BlockReduce::Reduce`)1.语法safe_softmax实现cub::BlockReducecub::BlockReduce是CUB库（CUDAUnBound
FakeOccupational·2025-03-20 06:35

使用LoRA微调LLaMA3

步骤一：环境搭建安装必要的Python包pipinstalltransformersdatasetstorch配置GPU环境确保你的环境中配置了CUDA和cuDNN，并验证GPU是否可用。
想胖的壮壮·2025-03-19 16:12

融合AMD与NVIDIA GPU集群的MLOps：异构计算环境中的分布式训练架构实践

在深度学习的背景下，NVIDIA的CUDA与AMD的ROCm框架缺乏有效的互操作性，导致基础设施资源利用率显著降低。
·2025-03-19 11:59

NVIDIA-B200 OFED安装失败解决步骤，实际生产环境故障一例

环境信息系统ubuntu22.04硬件nvidiaB200nvidia-driverubuntu2204-570.124.06cudacuda-toolkit-12-8报错信息.
清风 001·2025-03-19 05:34

Ubuntu20.04 RTX4060 AI环境搭建

1.安装步骤0）准备工作使用如下命令创建我们的工作目录：mkdir~/nvidia再使用如下命令进入到上面的目录（接下来的步骤，如无特殊说明，均在该目录下进行）：cd~/nvidia1）安装CUDA下载并安装
stxinu·2025-03-19 05:03

【pytorch(cuda)】基于DQN算法的无人机三维城市空间航线规划（Python代码实现）

欢迎来到本博客❤️❤️博主优势：博客内容尽量做到思维缜密，逻辑清晰，为了方便读者。⛳️座右铭：行百里者，半于九十。本文目录如下：目录⛳️赠与读者1概述一、研究背景与意义二、DQN算法概述三、基于DQN的无人机三维航线规划方法1.环境建模2.状态与动作定义3.奖励函数设计4.深度神经网络训练5.航线规划四、研究挑战与展望2运行结果3参考文献4Python代码实现⛳️赠与读者‍做科研，涉及到一个深在的
wlz249·2025-03-18 16:28

【保姆级视频教程（一）】YOLOv12环境配置：从零到一，手把手保姆级教程！| 小白也能轻松玩转目标检测！

FlashAttentionWindows端WHL包下载1.1简介1.2下载链接1.3国内镜像站1.4安装方法2.NVIDIAGPU计算能力概述2.1简介2.2计算能力版本与GPU型号对照表2.2.1CUDA-EnabledDatacenterProducts2.2.2CUDA-Enab
一只云卷云舒·2025-03-18 16:56

LLaMA-Factory 微调训练

（推荐在linux中训练，win可以用wsl+docker）gitclonehttps://github.com/hiyouga/LLaMA-Factory.gitcdLLaMA-Factory#根据cuda
zsh_abc·2025-03-18 14:40

llama-factory微调

大模型微调实操--llama-factoryllama-factory环境安装前置准备英伟达显卡驱动更新地址下载NVIDIA官方驱动|NVIDIAcuda下载安装地址CUDAToolkit12.2Downloads
AI Echoes·2025-03-18 13:05

PyTorch 生态概览：为什么选择动态计算图框架？

其核心优势体现在：动态灵活性：代码即模型，支持即时调试Python原生支持：无缝衔接Python生态高效的GPU加速：通过CUDA实现透明的硬件加速活跃的社区生态：GitHub贡献者超1.8万人，日均更新
小诸葛IT课堂·2025-03-18 07:12

unitree

Unitreeubuntu18.04首先要安装好ubuntu18.04系统，然后开始安装显卡驱动和cuda以及cudnn，这里要注意版本对应，我是3090的显卡，安装的显卡版本是520，然后cuda的版本是
Matrixart·2025-03-18 00:41

LVI-SAM、VINS-Mono、LIO-SAM算法的阅读参考和m2dgr数据集上的复现（留作学习使用）

一键安装-CSDN博客opencv官网下载4.2.0参考：https://opencv.org/releases/page/3/nvidia驱动安装:ubuntu18.04安装显卡驱动-开始战斗-博客园cuda
再坚持一下！！！·2025-03-18 00:10

如何使用MATLAB进行高效的GPU加速深度学习模型训练？

要使用MATLAB进行高效的GPU加速深度学习模型训练，可以遵循以下步骤和策略：选择合适的GPU硬件：首先，确保您的计算机配备有支持CUDA的NVIDIAGPU，并且其计算能力至少为3.0或以上。
百态老人·2025-03-17 22:56

Matlab GPU加速技术

硬件要求：支持CUDA的NVIDIAGPU（如Tesla、GeForc
算法工程师y·2025-03-17 21:50

pytorch 天花板级别的知识点 你可以不会用 但是不能不知道

实现：使用torch.cuda.amp模块。示例：fromtorch.cuda.ampimportautocast,GradSc
小赖同学啊·2025-03-17 21:17

vllm部署说明和注意事项

1、vllm所在docker镜像可去vllm官网提供的镜像地址拉取地址：UsingDocker—vLLMVllm镜像运行需要不同的cuda版本依赖，如上vllm/vllm-openai:v0.7.2需要
ai一小生·2025-03-17 14:59

CUDA内核调优工具ncu的详细使用教程

NVIDIANsightCompute（ncu）是一款用于CUDA内核性能分析的工具，帮助开发者优化CUDA程序。以下是详细的使用教程和示例说明。
东北豆子哥·2025-03-17 09:52

麒麟银河桌面版，成功安装cuda12.6，mysql

一、要卸载并禁用nouveau驱动程序，可以按照以下步骤进行：1.确认nouveau驱动的当前状态：首先，你可以使用以下命令查看nouveau驱动是否正在运行：lsmod|grepnouveau如果有输出，说明nouveau驱动正在加载。2.临时禁用nouveau驱动：可以使用modprobe命令来临时禁用nouveau驱动（重启后会恢复加载）：sudomodprobe-rnouveau3.永久禁
hitsz_syl·2025-03-17 07:37

mysql创建新表，同步数据

importosimportargparseimportglobimportcv2importnumpyasnpimportonnxruntimeimporttqdmimportpymysqlimporttimeimportjsonfromdatetimeimportdatetimeos.environ[“CUDA_VISIBLE_DEVICES
hitsz_syl·2025-03-17 07:37

如何测试模型的推理速度

代码如下（示例）：if__name__=="__main__":model=BiSeNet(backbone='STDCNet813',n_classes=2,export=True)model.cuda
想要躺平的一枚·2025-03-17 02:59

NVIDIA下载老版本驱动/CUDA/Video Codec SDK的链接，以及一些解码参数说明

NVIDIA下载老版本驱动/CUDA/VideoCodecSDK的链接从别的网站抄过来的CUDA：https://developer.nvidia.com/cuda-toolkit-archive老驱动
landihao·2025-03-17 00:43

PyTorch 环境搭建全攻略：CUDA/cuDNN 配置与多版本管理技巧

一、环境搭建前的准备工作1.硬件兼容性检测#检查NVIDIAGPU型号nvidia-smi#验证CUDA支持的ComputeCapabilitylspci|grep-invidia#查看CUDA版本兼容性矩阵
小诸葛IT课堂·2025-03-17 00:38

CMake Error at myplugins_generated_yololayer.cu.o.Debug，tensorrtx编译失败解决

system:ubuntu1804gpu:3060cuda:cuda11.4tensorrt:8.4使用项目tensorrtx进行yolov5的engine生成，之前在编译成功的配置为system:ubuntu1804gpu
雪可问春风·2025-03-16 08:11

大模型的webui

exportXXX_LLM_C=~/xcore-llm/build/ReleaseexportCUDA_VISIBLE_DEVICES=2,3exportCUDACXX=/usr/local/cuda-
Zain Lau·2025-03-16 05:26

linux（ubuntu）中Conda、CUDA安装Xinference报错ERROR: Failed to build (llama-cpp-python)

文章目录一、常规办法二、继续三、继续四、缺少libgomp库（最终解决）在Conda环境中安装libgomp如果符合标题情况执行的：pipinstall"xinference[all]"大概率是最终解决的情况。一、常规办法llama-cpp-python依赖CMake、Make和g++来编译，所以可能是缺少依赖或者环境配置不对。按照以下步骤排查问题并解决：1.确保Python版本符合要求llama
小胡说技书·2025-03-16 03:12

c++调用python代码，使用gpu

c++调用python，使用gpu加速1、首先要配置cuda和cudnn的环境1、cmd窗口下nvidia-smi，查看电脑可以支持的最高cuda版本。
AI改变视界·2025-03-16 01:55

一文讲清楚CUDA与PyTorch、GPU之间的关系

CUDA（ComputeUnifiedDeviceArchitecture）是由NVIDIA开发的一个并行计算平台和编程模型。
平凡而伟大.·2025-03-15 17:23

深度学习-服务器训练SparseDrive过程记录

1、cuda安装1.1卸载安装失败的cuda参考：https://blog.csdn.net/weixin_40826634/article/details/127493809注意：因为/usr/local
weixin_40826634·2025-03-15 15:41

RTX4090性能释放与优化全攻略

内容概要作为NVIDIAAdaLovelace架构的巅峰之作，RTX4090凭借24GBGDDR6X显存与16384个CUDA核心，重新定义了4K光追游戏的性能边界。
智能计算研究中心·2025-03-14 22:13

嵌入式人工智能应用- 第七章 人脸识别

嵌入式人工智能应用`文章目录嵌入式人工智能应用1人脸识别1.1dlib介绍1.2dlib特点1.3dlib的安装与编译2人脸识别原理2.1ResNet3代码部署3.1安装[CUDAToolkit12.8
数贾电子科技·2025-03-14 19:16

英伟达的ptx是什么？ptx在接近汇编语言的层级运行？

PTX（ParallelThreadeXecution）是英伟达CUDA架构中的一种中间表示形式（IR）语言。
AI-AIGC-7744423·2025-03-14 11:43

保姆级教学——本地免费部署DeepSeek-R1模型并通过Python调用

DeepSeek-R1模型并通过Python调用的详细指南：一、环境准备（Windows/Linux/Mac通用）1.硬件要求最低配置：16GB内存+20GB可用磁盘空间推荐配置：NVIDIAGPU（显存≥8GB）+CUDA11.8
shuaige_shiwoa·2025-03-14 09:54

Python深度学习033：Python、PyTorch、CUDA和显卡驱动之间的关系

Python、PyTorch、CUDA和显卡驱动之间的关系相当紧密，它们共同构成了一个能够执行深度学习模型的高效计算环境。
若北辰·2025-03-14 01:00

查看自己某个conda环境的Python版本的方法

再输入：activateCUDA90_torch110_tf1901激活环境。再输入：python-V#注意V是大写1
小剧场的阿刁·2025-03-13 20:30

本地部署时，如何通过硬件加速（如 CUDA、TensorRT）提升 DeepSeek 的推理性能？不同显卡型号的兼容性如何测试？

本地部署DeepSeek模型的硬件加速优化与显卡兼容性测试指南一、硬件加速技术实现路径CUDA基础环境搭建版本匹配原则：根据显卡架构选择CUDA版本（如NVIDIARTX50系列需CUDA12+，V100
百态老人·2025-03-13 14:43

一个基于LSTM的字符级文本生成模型的训练+使用(pytorch)

一、代码实现1.配置文件config.pyimporttorch#设备配置DEVICE=torch.device('cuda'iftorch.cuda.is_available()else'cpu')#
一只小铁柱·2025-03-13 12:04

PyTorch安装与环境配置终极指南：从零搭建高效深度学习开发环境（一）

一、环境搭建的核心意义与准备工作1.1深度学习环境的核心挑战深度学习开发环境涉及复杂的软件栈依赖关系：硬件兼容性：GPU型号（NVIDIA系列）与CUDA版本的匹配软件依赖链：Python版本→PyTorch
WHCIS·2025-03-13 12:02

windows11 环境 paddleOCR 环境配置

一、系统环境：操作系统：Windows11专业版显卡：RTX4080CUDA：cuda_12.6.2_560.94_windows.exe、cudnn-windows-x86_64-8.9.7.29_cuda12
一醉千秋·2025-03-13 08:27

离线安装tiny cuda nn

GitHub-NVlabs/tiny-cuda-nn:LightningfastC++/CUDAneuralnetworkframework在mac上递归clonetinycudann仓库gitclone
GUSONGEN·2025-03-13 04:23

Windows编译tiny-cuda-nn时出现fatal error C1083: “crtdefs.h”: No such file or directory

首先确保安装了VisualStudio其次有可能是因为安装的VS设置的编译项默认为x86，与当前系统的CUDA的位数不一致。
龙雪zzZ·2025-03-13 03:50

Win11加wsl2安装anaconda

在Windows11中安装WSL2(Ubuntu20.04)并配置Anaconda环境-知乎(zhihu.com)使用的这篇帖子wsl2如何安装pipWindows下安装WSL2并配置Cuda、Miniconda
小方abc·2025-03-13 01:07

CUDA12.1 cudnn9.0.1 python3.10.12配置TensorRT8.6.1，完成yolov12tensorRT推理完整过程

一、配置TensorRT8.6.11.下载TensorRT8.6.1包TensorRT完全依赖CUDA，因此下载其版本时一定要考虑CUDA的版本。
李卓璐·2025-03-13 01:33

开发ai模型最佳的系统是Ubuntu还是linux？

提供针对NVIDIAGPU的官方驱动支持，简化CUDA和cuDNN的配置流程（如nvidia-smi直接监控显存）。2.社区生态与长期维护（LTS）UbuntuLTS版本（如24
俺足·2025-03-12 22:18
上一页 7 8 9 10 11 12 13 14 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他