GPU租用

nvidia-device-plugin实现gpu虚拟化

简介NVIDIAdeviceplugin是以dameonset方式部署到k8s集群,部署后可以实现:暴露集群中n每个node节点的gpu数量跟踪gpu健康状态可以在k8s集群中运行gpu容器前置条件NVIDIAdrivers
riverz1227·2025-06-04 09:34

# 使用 Micromamba 安装 vLLM 并运行最小模型（facebook/opt-125m）

️环境准备系统：UbuntuPython版本：3.10包管理器：MicromambaGPU：NVIDIA（CUDA支持）创建环境并安装vLLM#创建micromamba环境micromambacreate-nvllmpython
老大白菜·2025-06-03 22:14

华为OD机试 - 租车骑绿道 - 双指针（Python/JS/C/C++ 2025 A卷 100分）

一、题目描述部门组织绿岛骑行团建活动，租用公共双人自行车骑行，每辆自行车最多
哪 吒·2025-06-03 16:02

自动混合精度（AMP）训练在低版本显卡上的使用问题

AMPtrainingonNVIDIAGeForceGTX1660SUPERGPUmaycauseNaNlossesorzero-mAPresults,soAMPwillbedisabledduringtraining
shangjg3·2025-06-03 16:57

CUDA内存溢出问题解决方案

这个错误表明你的GPU内存不足，无法分配所需的76MB内存。GTX1660SUPER只有6GB显存，在处理大型深度学习模型时确实容易遇到内存不足的问题。
shangjg3·2025-06-03 16:57

MiniCPM-o 2.6 技术解析：端侧可用的 GPT-4o 级多模态大模型

二、核心能力亮点1.视觉理解能力全面超越️2.双语实时语音对话+情绪控制3.实时多模态流式能力⚡4.高效+端侧可部署三、部署实践与生态支持✅本地部署Demo（适配CPU/GPU）✅框架支持广泛四、模型性能评估小结五
gs80140·2025-06-03 12:04

动态规划实战：游艇租赁问题的最优解探索

问题背景长江俱乐部在长江设置了n个游艇出租站1,2,…n，游客可在这些游艇出租站租用游艇，并在下游的任何一个游艇出租站归还游艇。
liberalxl·2025-06-03 09:10

python打卡day34

GPU训练及类的call方法知识点回归：CPU性能的查看：看架构代际、核心数、线程数GPU性能的查看：看显存、看级别、看架构代际GPU训练的方法：数据和模型移动到GPUdevice上类的call方法：为什么定义前向传播时可以直接写作
(・Д・)ノ·2025-06-03 07:27

深度学习FPGA开发方式

https://blog.csdn.net/weixin_35729512/article/details/79763952FPGA深度学习的方向概述传统的CNN（Tensorflow、caffe）是在GPU
jack_201316888·2025-06-03 01:45

centos中docker:Error response from daemon: could not select device driver ““ with capabilities: [[gpu

centos进行docker跑程序出现问题想要在docker上面深度学习模型时，出现了来自daemon的错误响应:couldnotselectdevicedriver“”withcapabilities:[[gpu
干饭喵·2025-06-03 00:05

对比传统GPU服务器，为什么建议选择IEC企业私有云存储言案 ?

Infortrend企业云（IEC）—是一个强大的私有云平台，集成了计算、存储和Kubernetes管理功能于一体。专为企业量身定制，凭借高扩展、高性能和高可靠的产品特性，打造企业IT基础建设新篇章。
smart1998·2025-06-02 14:52

在选购高性能显卡（GPU）时，两个风扇与三个风扇：GPU 风扇越多越好吗？

在选购高性能显卡（GPU）时，消费者常常会被各种规格参数和设计选择所困扰，其中一个常见的问题是：风扇数量对GPU性能和散热效果到底有多大影响？
wljslmz·2025-06-02 13:16

window 显示驱动开发-支持多个处理器

驱动自主优化UMD需硬件特定优化（如GPU引擎绑定、NUMA感知内存分配）。2.运行时自动优化的特
程序员王马·2025-06-02 12:07

Ubuntu20.04CUDA及cuDNN安装教程

以下是针对Ubuntu20.04安装CUDA和cuDNN的详细教程，包含版本选择、步骤解释、验证方法及常见问题解决方案：一、安装前的准备1.硬件与系统要求GPU支持：确保你的NVIDIAGPU支持CUDA
吃旺旺雪饼的小男孩·2025-06-02 10:26

关于安装Pytorch中torch.cuda.is_available()为False的解决方案

关于安装Pytorch无法调用GPU运算的解决方案之一解决torch.cuda.is_available()返回False原因之一：错下了CPU版本的Pytorch下图为失败案例解决方案解决torch.cuda.is_available
淡水渔人码头丶·2025-06-02 09:24

大模型实战—个人AI大脑Khoj 本地部署

离线模型+GPU如果您想使用离线聊天模
不二人生·2025-06-02 09:49

开源AI数字人分身克隆小程序源码系统深度剖析：从搭建到应用

CPU需具备多核心处理能力；GPU在数字人形象渲染、动作模拟等环
源码师傅·2025-06-02 08:44

Unity性能优化全攻略：从原理到实践的深度解析

本文将系统性地介绍Unity项目中最常见且有效的性能优化方案，涵盖CPU、GPU、内存和资源管理等多个维度，帮助开发者打造流畅的游戏体验。
small-pudding·2025-06-02 07:05

GPU深度学习性能的三驾马车：Tensor Core、内存带宽与内存层次结构

这篇文章可以帮助我们了解GPU对深度学习性能的多个影响因素，从而帮助我们评估、选用GPU。本文将按照GPU各组件的重要程度顺序来进行介绍。
m0_70960708·2025-06-02 07:34

教大家细分webGL，webGPU，unity3D和UE4

一、四者都能进行3D图形渲染它们之间有一些区别：WebGPU：WebGPU是一种Web图形API，是基于底层的GPU硬件架构设计的，可以更好地利用现代GPU的并行计算能力，提供更高的图形渲染性能。
新中地GIS开发老师·2025-06-02 02:25

【FlashRAG】本地部署与demo运行（二）

这里CPU/GPU版本可
NaturalHarmonia·2025-06-01 23:38

2、PyTorch基础教程：从张量到神经网络训练

张量（Tensor）：PyTorch的核心数据结构，支持多维数组，并可以在CPU或GPU上进行加速计算。自动求导（Autograd）：PyTorch提供了
AI风老师·2025-06-01 23:06

window 显示驱动开发-GPU 抢占（三）

实现中的内存映射注意事项按照本指南创建支持Windows8GPU抢占模型的可靠驱动程序，并提供高质量的用户体验：当Dxgkrnl计划程序发送抢占命令时，请求抢占GPU中的中间DMA缓冲区。
程序员王马·2025-06-01 15:38

基于python部署paddleocrv5的onnx模型PPOCRv5模型部署源码+onnx模型+使用说明

繁体中文、中文拼音、英文和日文识别无需深度学习训练框架，可直接部署使用支持ARM和x86架构高性能推理，识别速度快识别精度与PaddleOCR保持一致2.环境要求Python>=3.8CUDA支持（如果使用GPU
FL1623863129·2025-06-01 15:35

爆肝优化！FlashAttention-2性能飙升实战：从原理解析到PyTorch 2.2深度优化（附代码与Benchmark）

传统注意力机制的性能瓶颈在大模型训练中，标准Transformer注意力面临三大痛点：内存爆炸：序列长度L=4096时，注意力内存占用达O(L²)，A100显存仅能支持批量大小16计算低效：矩阵乘法占比超70%，GPU
游戏人生的NPC·2025-06-01 13:26

第四篇：Python 高级-高性能计算加速秘籍

本篇将深入探讨向量化计算的深度优化以及如何借助CUDA编程与GPU加速来显著提升Python计算效率。
程序员勇哥·2025-06-01 07:11

CUDA 工具链将全面原生支持 Python

根据NVIDIA在2025年GTC大会上的官宣，CUDA工具链将全面原生支持Python编程，这一重大更新旨在降低GPU编程门槛，吸引更广泛的Python开发者进入CUDA生态。
自不量力的A同学·2025-06-01 07:40

YOLOv11小白的进击之路（七）训练输出日志解读以及训练OOM报错解决办法

GPU_mem:显示当前使用的显存大小（如3.66G），方便监控显存占用情况。box_loss/cls_loss/dfl_loss:这仨就是不同类型的损失
水静川流·2025-06-01 06:34

NCHW和NHWC

//www.jianshu.com/p/61de601bc90f在深度学习中，图像数据通道格式有两种：NCHW，又称：“channels_first”，是nvidiacudnn库原生支持的数据模式；在GPU
seiyaaa·2025-05-31 20:53

在本地安装和部署 Xinference，并下载对应的模型

引言Xinference是一个开源的推理框架，支持多种深度学习模型的本地推理，适用于GPU和CPU环境。它可以用于自然语言处理、计算机视觉等任务，并且提供了API接口，方便集成到各种应用中。
萧鼎·2025-05-31 09:06

【Pytorch实用教程】【分布式】torch.utils.data.distributed.DistributedSampler用法介绍

在分布式训练时，它可以帮助将数据集分成多个子集，并且确保每个GPU或进程处理的样本是唯一的，不会重复其他进程处理的样本，从而提升训练效率。基本用法DistributedSa
若北辰·2025-05-31 04:59

异构硬件平台模型统一编译与部署体系构建实战：多引擎兼容、跨架构适配与高效分发全流程解析

传统的单引擎部署模式无法满足GPU、NPU、CPU、FPGA等异构设备的
观熵·2025-05-30 23:56

小型语言模型：为何“小”才是“大”？

GPT-4o每输出1K个token就要花费两美分，还得把数据发送到遥远的GPU集群，过程中还会有延迟峰值和隐私问题。
AI仙人掌·2025-05-30 21:42

gpu浮点计算能力floaps_详解GPU技术关键参数和应用场景

计算架构要求多样化，需要不同的CPU架构来满足不断增长的算力需求，同时需要GPU，NPU和FPGA等技术加速特定领域的算法和专用计算。以此，不同CPU架构，不同加速技术应用而生。
Good Inflation·2025-05-30 19:56

GPU Instancing详解

GPUInstancing的定义一种Drawcall的优化方案，使用一个Drawcall就能渲染具有多个相同材质的网格对象。而这些网格的每个copy称为一个实例(Instancing)。
展大爷·2025-05-30 19:54

详解GPU

详解GPUGPU（图形处理器）就像电脑里的“图形小能手”，原本主要用来画画（渲染图形），现在还能帮忙干很多杂活（并行计算）一、先认识GPU的“钥匙”：驱动和开发工具装驱动：给GPU上发条不管是N卡（NVIDIA
霖12·2025-05-30 18:51

gpu_data_manager_impl_private.cc(436)] GPU process isn‘t usable. postman

potman启动报错：gpu_data_manager_impl_private.cc(436)]GPUprocessisn’tusable.postman[21456:0526/102725.853:
Roc-xb·2025-05-30 16:35

Python图形编程-OpenGL开发环境搭建

这为我们后面对GPU图像处理打开基础。1、安装依赖模块安装本教程所需的软件包相
视觉与物联智能·2025-05-30 15:27

架构分享｜三层存储架构加速云端大模型推理

作者简介NileshAgarwal,Inferless联合创始人&CTO关于InferlessInferless：无服务器GPU推理无需管理服务器即可扩展机器学习推理，轻松部署复杂的自定义模型。
·2025-05-30 13:18

GPU加速Ollama

启用GPU加速可以显著提升Ollama的运行效率，尤其是在处理大模型时。以下是通过不同方式实现GPU加速的具体方法：安装CUDA驱动和工具包确保系统已安装NVIDIA驱动和CUDA工具包。
慎思笃行丨·2025-05-30 10:15

OpenCV CUDA模块直方图计算------在 GPU 上计算输入图像的直方图（histogram）函数histEven()

操作系统：ubuntu22.04OpenCV版本：OpenCV4.9IDE:VisualStudioCode编程语言：C++11算法描述该函数用于在GPU上计算输入图像的直方图（histogram）。
村北头的码农·2025-05-30 07:56

在CuPy中使用多节点多GPU环境

在CuPy中使用多节点多GPU环境CuPy本身主要设计用于单节点多GPU计算，但可以通过一些方法扩展到多节点环境。
东北豆子哥·2025-05-29 20:34

CUDA Fortran 使用介绍与资源

CUDAFortran使用介绍与资源CUDAFortran简介CUDAFortran是NVIDIA与PGI(现为NVIDIA所有)合作开发的Fortran语言扩展，允许Fortran程序员直接使用NVIDIAGPU
东北豆子哥·2025-05-29 20:33

Python中使用CUDA/GPU的方式比较

Python中使用CUDA/GPU的方式比较在Python中利用GPU加速计算有多种方式，以下是主要的几种方法及其比较：1.CUDA原生开发方式：使用NVIDIA提供的CUDAC/C++API开发内核通过
东北豆子哥·2025-05-29 19:30

块压缩与图片压缩优缺点对比

块压缩与图片压缩优缺点对比块压缩（BlockCompression）✅优点硬件加速支持直接被GPU读取，无需CPU解压显著降低内存带宽消耗（适合移动设备）随机访问特性4×4/8×8像素块独立压缩支持直接定位读取特定纹理区域固定压缩比
wcjwdq·2025-05-29 15:59

探秘GPU关键组件HBM：AI 时代的内存新宠

HBM，全称HighBandwidthMemory，直译为高带宽内存，是一种新型的CPU/GPU内存芯片。它将多个DDR芯片堆叠后与GPU封装，形成大容量、高位宽的DDR组合阵列。
芥子沫·2025-05-29 12:41

深入了解AI人工智能深度学习的硬件加速方案

深入了解AI人工智能深度学习的硬件加速方案关键词：AI人工智能、深度学习、硬件加速方案、GPU、TPU、FPGA摘要：本文旨在深入探讨AI人工智能深度学习的硬件加速方案。
AI大模型应用之禅·2025-05-29 09:25

服务器配置采集

一、GPU信息收集查看GPU型号和驱动信息nvidia-smi-q>gpu_info.txt（输出会包含GPU型号、显存、驱动版本、温度等信息）查看CUDA版本nvcc--version2>&1|teecuda_version.txt
bloglin99999·2025-05-29 06:24

OpenCV CUDA模块图像处理------颜色空间处理之拜耳模式去马赛克函数demosaicing()

操作系统：ubuntu22.04OpenCV版本：OpenCV4.9IDE:VisualStudioCode编程语言：C++11算法描述该函数用于在GPU上执行拜耳图像（BayerPattern）的去马赛克操作
村北头的码农·2025-05-29 06:53

YOLOv7在自定义数据集上的Jupyter Notebook训练指南

若没有GPU，DigitalOceanGP
t0_54program·2025-05-29 02:51
上一页 6 7 8 9 10 11 12 13 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他