GPU租用第8页

鸿蒙开发实战之Function Flow Runtime Kit优化美颜相机AI流水线

一、架构设计突破针对美颜相机复杂的AI处理流程，FunctionFlowRuntimeKit实现三大创新：异构计算流水线CPU+GPU+NPU三端任务自动分配人脸识别→皮肤检测→背景分割→滤镜渲染四阶段并行智能调度策略二

·2025-06-15 23:08

【PyTorch】torchrun：分布式训练的启动和管理命令行工具

它在PyTorch1.10中引入，作为torch.distributed.launch的升级替代品，提供了更简洁的接口、更好的弹性支持和容错能力，适用于单节点多GPU或多节点分布式训练。

彬彬侠·2025-06-15 12:41

Llama 4 群：原生多模态 AI 创新新时代的开始

Llama4Scout拥有170亿个活跃参数，包含16位专家模型，是同类产品中全球最佳的多模态模型，其性能比所有前代Llama模型都更强大，并且仅需单块NVIDIAH100GPU即可运行。

爱分享的小明·2025-06-15 11:04

Python----神经网络发（神经网络发展历程）

池化操作手写数字识别先驱，奠定CNN基础MNISTDemosonYannLeCun'swebsite2012AlexNet首次大规模使用深度卷积神经网络进行图像识别；引入ReLU、Dropout、重叠池化、GPU

蹦蹦跳跳真可爱589·2025-06-14 23:43

Vulkan学习笔记【一】创建窗口与实例

随着移动浪潮到来，人们对移动GPU的要求也越来越高，但以往的图形API不能够进

w还是晒太阳吧·2025-06-14 19:15

speculative decoding: SpecInfer

speculativedecoding学习笔记：speculativedecodinglookhead机制一、SpecInfer提出前的一些问题串行依赖：传统自回归解码必须逐token生成，GPU利用率不足

Jay Kay·2025-06-14 12:29

【一】Ollama 简介与安装配置

3.1macOS安装3.2Linux安装3.3Windows安装（通过WSL2）4.环境配置4.1基本配置4.2配置文件示例4.3环境变量设置5.验证安装6.常见问题解决6.1安装失败6.2模型下载失败6.3GPU

·2025-06-14 05:20

使用GpuGeek训练图像分类器：从入门到精通

GpuGeek作为一款新兴的深度学习训练平台，以其强大的GPU加速能力和用户友好的界面，正在改变这一现状。本文将详细介绍如何使用GpuGeek平台

点我头像干啥·2025-06-13 23:07

whisper相关的开源项目 (asr)

faster-whisper使用CTranslate2加速推理，支持CPU/GPU，速度比原版快4倍，内存占用更低。适合需要高效部

code-ranger·2025-06-13 22:31

1分钟让你看懂GPU参数指标

今天，我们以英伟达A800GPU卡为蓝本，深入浅出地探讨其五大核心性能指标。我们的目标是通过这次分享，让大家不仅能够迅速掌握每个参数的具体作用，还能理解它们之间的相互关联。

HPC_fac13052067816·2025-06-13 17:26

大模型多显卡多服务器并行计算方法与实践指南

二、硬件环境准备1.多机多卡环境配置组件要求建议配置GPU支持CUDANVIDIAA100/H100网络高速互联Inf

非著名架构师·2025-06-13 13:27

Hummingbird库：将机器学习模型转换为深度学习模型

引言随着深度学习在各个领域的广泛应用，研究人员和工程师开始探索如何将传统的机器学习模型（如决策树、随机森林等）转换为可以在GPU上高效运行的神经网络模型。

萧鼎·2025-06-13 10:34

c cuda 指定gpu_faiss-gpu近邻检索

环境准备：双路CPU工作站128G内存英伟达1080Ti显卡两块faiss源码包centos7.2+python2.7+anaconda2（环境变量与openblas安装同GPU版）centos7.2+

宁静致远敏·2025-06-13 09:00

《CUDA并行程序设计-GPU编程指南》读书笔记--(2)CUDA内存处理

CPU与GPU架构的一个主要区别就是CPU与GPU映射寄存器的方式。CPU通过使用寄存器重命名和栈来执行多线程。

SigalHu·2025-06-13 09:29

faiss上的GPU流程，GPU与CPU之间的联系

GPU使用流程1、初始化阶段1.1：初始化GPU资源对象目的：为GPU上的操作分配和管理资源，例如临时内存和CUDA流。

·2025-06-13 08:22

英伟达的未来不止 GPU，黄仁勋指向了一个新“Q”

他认为量子计算正迎来一个“拐点”，英伟达已推出CUDA-Q平台，旨在促进量子与经典计算的结合，并预测未来所有超级计算机都将集成量子处理单元（QPU）与图形处理单元（GPU）。

Qforepost·2025-06-13 03:19

边缘AI广泛应用推动并行计算崛起及创新GPU渗透率快速提升

作者：ImaginationTechnologies的产品管理副总裁DennisLaudick人工智能（AI）在边缘计算领域正经历着突飞猛进的高速发展，根据IDC的最新数据，全球边缘计算支出将从2024年的2280亿美元快速增长到2028年的3780亿美元*。这种需求的增长速度，以及在智能制造、智慧城市等数十个行业中越来越多的应用场景中出现的渗透率快速提升，也为执行计算任务的硬件设计以及面对多样化

电子科技圈·2025-06-12 20:25

DeepSeek满血版本地部署指南

一、硬件与操作系统准备1.硬件要求GPU（关键）：最低要求：NVIDIA显卡（RTX3090/4090，显存≥24GB）可运行非量化版。经济方案：RTX306012GB+4-bit量化模型。

三三十二·2025-06-12 18:42

WebGPU渲染引擎架构深度解析：从GPU硬件抽象到高效渲染

一、WebGPU的设计哲学：面向现代GPU的底层抽象WebGPU的核心目标是成为一个“薄而宽”的抽象层：“薄”(LowOverhead)：最小化驱动翻译：与WebGL(基于OpenGLES)不同，WebGPU

·2025-06-12 18:06

海思昇腾/达芬奇架构在 Android 系统中的异构部署：NPU × CPU × GPU 联合调度与模型落地实践全流程解析

海思昇腾/达芬奇架构在Android系统中的异构部署：NPU×CPU×GPU联合调度与模型落地实践全流程解析关键词海思昇腾、达芬奇架构、AndroidNPU部署、NNIE、ACL、异构计算、张量融合、CANN

观熵·2025-06-12 18:05

OpenCV CUDA模块图像变形------对图像进行上采样操作函数pyrUp()

操作系统：ubuntu22.04OpenCV版本：OpenCV4.9IDE:VisualStudioCode编程语言：C++11算法描述函数用于对图像进行上采样操作（升采样），是GPU加速版本的高斯金字塔向上采样

村北头的码农·2025-06-12 13:34

【目标检测基础】YOLOv1算法详解：从“一次看全”到实时检测的革命性突破

实时性突破：在GPU上达到45FPS（FasterR-CNN仅为7FPS），首次让实时视频分析成为可能。端到端思维：直接输入图像输出检测

出不了新手村·2025-06-12 09:32

GPU显存占用率过低的解决方案

在训练模型时，有时会出现GPU利用率很低的情况。有可能是CPU读取数据的速度跟不上模型训练的速度，导致GPU处于等待的状态。

myccver·2025-06-12 08:24

百度百舸万卡集群的训练稳定性系统设计和实践

彼时我们不会想到，十年后支撑AI训练的GPU集群会从研究室里的几台服务器，发展成需要专门供电系统的万卡级计算矩阵。

百度Geek说·2025-06-12 02:25

OpenCV CUDA模块图像变形------ 构建仿射变换的映射表函数buildWarpAffineMaps()

这个函数是GPU加速版本，适用于在CUDA环境下进行高性能图像变换处理。函数原型vo

村北头的码农·2025-06-11 22:22

硬件异构环境（如 CPU+GPU 混合）下的任务调度策略，如何最大化资源利用率？

硬件异构环境（CPU+GPU混合）下的任务调度策略体系与资源利用率优化技术（2025版）一、异构计算环境的核心挑战在CPU+GPU混合架构中，最大化资源利用率的本质是解决三类矛盾：硬件能力差异矛盾：CPU

百态老人·2025-06-11 21:17

Hugging Face基础入门

Transformers库全景图HuggingFace与深度学习的融合安装Transformers与Datasets第一个Pipeline程序：一行代码跑大模型在CPU、GPU上运行的区别pipeline

·2025-06-11 21:45

【异构计算架构】CPU/GPU/FPGA混合资源池

异构计算架构：CPU/GPU/FPGA混合资源池一、技术背景及发展二、技术特点三、技术实现细节四、未来发展趋势结语一、技术背景及发展随着摩尔定律逼近物理极限，单一架构的计算芯片已无法满足AI训练、科学计算

沐风—云端行者·2025-06-11 21:43

FPGA × GPU 混合推理系统架构实战：协同执行链设计与性能对比分析

《FPGA×GPU混合推理系统架构实战：协同执行链设计与性能对比分析》关键词FPGA加速、GPU推理、混合部署架构、DPU调度、异构计算、协同执行链、推理任务分配、性能对比分析摘要在实际工程中，单一加速器已难以满足复杂

观熵·2025-06-11 19:34

TensorRT × TVM 联合优化实战：多架构异构平台的统一推理加速与性能调优全流程

TensorRT×TVM联合优化实战：多架构异构平台的统一推理加速与性能调优全流程关键词TensorRT、TVM、异构推理优化、跨平台部署、GPU加速、NPU融合、自动调度、深度学习推理引擎、性能调优摘要在深度学习模型推理部署场景中

观熵·2025-06-11 19:31

安装 DeepLake

安装扩展功能（可选）1.安装GPU支持（加速数据加载和处理）如果你有NVIDIAGPU并希望利用GPU来加速某些操作（例如图像增

燃灯工作室·2025-06-11 19:27

最后生还者2：重制版/美国末日2（更新：v1.4.10515.0636）

更新日志补丁1.4发布说明-v1.4.10515.0636集成NVIDIADLSS4和Transformer模型，用于升级和支持GPU的多帧生成。

AABBCC103·2025-06-11 17:14

云原生周刊：k0s 成为 CNCF 沙箱项目

KubeSphere 云原生·2025-06-11 12:43

Conda安装pytorch和cuda出现问题的解决记录

pytorch已经安装却显示cuda不可用问题表现：pytorch已经安装，代码能够正常运行，但是不能识别到GPU，Cuda显示不可用。

IOT.FIVE.NO.1·2025-06-11 09:47

拉力测试cuda pytorch 把 4070显卡拉满

importtorchimporttimedefstress_test_gpu(matrix_size=16384,duration=300):"""对GPU进行压力测试，通过持续的矩阵乘法来最大化GPU

MYH516·2025-06-11 06:00

k8s集群GPU监控项说明

文章目录1.DCGM_FI_DEV_SM_CLOCK2.DCGM_FI_DEV_MEM_CLOCK3.DCGM_FI_DEV_MEMORY_TEMP4.DCGM_FI_DEV_GPU_TEMP5.DCGM_FI_DEV_POWER_USAGE6

玄德公笔记·2025-06-11 04:14

kubernetes 1.24 使用nvidia gpu 单机/集群

1k8s集群安装服务器配置域名设置好，端口号要开下。命令略了sudoapt-getupdate\&&sudoapt-getinstall-yapt-transport-https\ca-certificatescurlsoftware-properties-common关swapswapoff-ased-ri's/.*swap.*/#&/'/etc/fstabipv4流量转到iptables：ca

hymanSlime·2025-06-11 04:10

K8S集群 - GPU机器驱动安装

1、GPU可以升级下内核3.10版本的小版本升级```shellyuminstallkernel```2、首先查看GPU显卡信息```shelllspci|grep-invidia```3、去官网下载GPU

卡亦克·2025-06-11 04:10

无需手动输入命令，简单3步即可在K8S集群中启用GPU

在本文中，我将阐述在Kubernetes集群中使用GPU的简单方法。在未来的文章中，我们还将GPU推向至边缘并向你展示如何完成这一步骤。

2401_83916283·2025-06-11 04:09

零基础学习GPU 系统软件资源（7.4）--未来趋势与前沿技术:新型架构的软件适配

目录第七章：未来趋势与前沿技术新型架构的软件适配1.CXL协议对GPU缓存一致性的影响(1)CXL协议的核心特性(2)GPU缓存一致性的挑战与解决方案(3)性能影响与适用场景2.DPU加速下的GPU资源卸载场景

xiaoheshang_123·2025-06-11 00:12

多区域协同的异地多活AI推理服务架构

多区域协同的异地多活AI推理服务架构上海区域北京区域广州区域延迟最低北京故障转移备用命中未命中缓存未命中冷启动拉取冷启动拉取分发模型权重/CDN缓存写入异地日志上海API网关上海区域负载入口上海推理调度器上海GPU

大数据张老师·2025-06-10 22:29

【Triton 教程】triton_language.arange

它旨在提供一个基于Python的编程环境，以高效编写自定义DNN计算内核，并能够在现代GPU硬件上以最大吞吐量运行。

·2025-06-10 19:49

SurfaceFlinger及Android应用RenderThread角度观察Jank丢帧卡顿

SurfaceFlinger及Android应用RenderThread角度观察Jank丢帧卡顿CPU、GPU、Display三个部分：CPU负责计算帧数据，把计算好的数据交给GPU，GPU会对图形数据进行渲染

zhangphil·2025-06-10 18:25

OpenCV CUDA模块中用于稠密光流计算的 TV-L1（Dual TV-L1）算法类cv::cuda::OpticalFlowDual_TVL1

OpenCV4.9IDE:VisualStudioCode编程语言：C++11算法描述cv::cuda::OpticalFlowDual_TVL1类是基于变分优化方法的稠密光流算法实现（DualTV-L1光流模型），在GPU

村北头的码农·2025-06-10 15:37

【Triton 教程】triton_language.num_programs