GPU虚拟化

英伟达靠什么支撑起了4万亿？AI泡沫还能撑多久？

⚙️一、英伟达4万亿市值的核心支撑因素技术垄断与生态壁垒硬件优势：英伟达GPU在AI训练市场占有率超87%，H100芯片的FP16算力达1979TFLOPS，领先竞品3-5倍。

·2025-07-30 00:21

元宇宙中的视觉技术：虚拟化身与场景生成

元宇宙中的视觉技术：虚拟化身与场景生成前言一、元宇宙与视觉技术的深度关联1.1元宇宙概念深度剖析1.2视觉技术：元宇宙的“灵魂之窗”二、虚拟化身：数字世界的“第二自我”2.1虚拟化身技术的深度解析2.1.1

xcLeigh·2025-07-29 22:41

PaddleOCR 快速开始

1.安装1.1安装PaddlePaddle#GPUcudapipinstallpaddlepaddle-gpu#CPUpipinstallpaddlepaddle1.2安装PaddleOCRwhl包pipinstallpaddleocr2

张欣-男·2025-07-29 20:20

非欧空间计算加速：图神经网络与微分几何计算的GPU优化（流形数据的内存布局优化策略）

一、非欧空间计算的革命性意义与核心挑战在三维形状分析、社交网络建模、分子动力学模拟等领域，非欧几里得空间数据（流形数据）的处理正推动人工智能技术向更复杂的几何结构迈进。传统欧式空间优化方法在处理流形数据时面临根本性局限：黎曼度量导致距离计算失效、局部坐标系动态变化引发内存访问模式混乱、曲率变化影响并行计算效率。本文提出基于分块流形存储（BlockedManifoldStorage,BMS）与层次化

九章云极AladdinEdu·2025-07-29 19:46

核心板：嵌入式系统的核心驱动力

核心板的技术特点核心板通常采用先进的系统级封装(SiP)技术，在微小空间内集成了CPU/GPU、DDR内存、Flash存储以及电源管理单元。这种设计不仅大幅减小了体积，还提高了系统可靠性。以常见

MYZR1·2025-07-29 13:07

Unity_UI_NGUI_DrawCall

Unity_UI五、NGUI进阶2.DrawCall相关2.1DrawCall的概念DrawCall定义：字面理解：DrawCall就是"绘制呼叫"的意思，表示CPU（中央处理器）通知GPU（图形处理器

BuHuaX·2025-07-29 13:06

利用Gpu训练

方法一：分别对网络模型，数据（输入，标注），损失函数调用.cuda()网络模型：iftorch.cuda.is_available():net=net.cuda()数据（训练和测试）：iftorch.cuda.is_available():imgs=imgs.cuda()targets=targets.cuda()损失函数：iftorch.cuda.is_available():loss_fn=l

兮℡檬，·2025-07-29 09:39

Tensorflow-gpu运行时报错Non-OK-status: GpuLaunchKernel

Tensorflow-gpu运行时报错Non-OK-status:GpuLaunchKernel(FillPhiloxRandomKernelLaunch,num_blocks,block_size,0

GEM的左耳返·2025-07-29 09:08

云上安全别掉以轻心：我在运维中踩过的那些坑与实战经验

所有东西都虚拟化了，甚至有些权限和资源不再属于你一个

Echo_Wish·2025-07-28 23:46

【科研绘图系列】R语言绘制边际云雨图散点图

文章目录介绍加载R包数据下载导入数据数据预处理画图系统信息参考介绍【科研绘图系列】R语言绘制边际云雨图散点图加载R包library(tidyverse)library(ggplot2)library(ggpubr

生信学习者1·2025-07-28 19:20

路口实时检测 30FPS+：陌讯抗遮挡算法实测

传统视觉算法在实际部署中常面临三重挑战：强光/逆光环境下目标特征丢失导致的漏检率超20%；行人与非机动车遮挡场景下误判率高达15%；普通GPU设备上难以维持25FPS以上的实时性[3]。

2501_92488070·2025-07-28 18:41

如何解决 undetected_chromedriver 启动慢问题

driver=uc.Chrome(browser_executable_path=r'C:\ProgramFiles\Google\Chrome\Application\chrome.exe')2.禁用GPU

小马哥编程·2025-07-28 16:58

vLLM专题（三）-快速开始

本指南将帮助您快速开始使用vLLM执行：离线批量推理使用OpenAI兼容服务器进行在线服务1.先决条件操作系统：LinuxPython：3.9–3.122.安装如果您使用的是NVIDIAGPU，您可以直接使用

AI专题精讲·2025-07-28 09:38

XCZU4EV-1FBVB900E Xilinx FPGA AMD Zynq UltraScale+ MPSoC EV（Embedded Vision）

Xilinx）ZynqUltraScale+MPSoCEV（EmbeddedVision）系列，集成四核Arm®Cortex‑A53应用处理器、双核Cortex‑R5F实时处理器与Mali‑400MP2片上GPU

XINVRY-FPGA·2025-07-28 09:35

数字经济时代全产业链详解

以下是详细拆解：基础技术层1.硬件基础设施芯片与半导体：CPU、GPU、AI芯片（如NPU）等，支撑算力需求。通信设备：5G基站、光纤网络、卫星互联网等。

·2025-07-28 08:32

存算一体架构或成为AI处理器技术发展关键

©作者|坚果来源|神州问学引言马斯克巨资60亿美元打造的“超级算力工场”，通过串联10万块顶级NVIDIAH100GPU，不仅震撼了AI和半导体行业，促使英伟达股价应声上涨6%，还强烈暗示了AI大模型及芯片需求的急剧膨胀

神州问学·2025-07-28 02:47

下一代AI芯片设计的五大革命性突破：从架构创新到能效比跃迁——解析存算一体、Chiplet与光子计算的产业实践

英伟达H100GPU的算力虽达4PetaFLOPS，但其实际能效比仅有15%，大量功耗消耗在数据搬运而非计算本身（数据来源：ISSCC2024报告）。

像素笔记·2025-07-28 02:46

VMware中文版虚拟机使用指南

本文还有配套的精品资源，点击获取简介：VMware是广泛使用的虚拟化软件，能让用户在一个物理机上运行多个虚拟环境，支持不同操作系统和应用程序。

·2025-07-28 01:04

使用vllm创建相同模型的多个实例，使用nginx进行负载均衡，提高模型吞吐量

背景要提高vllm部署的大模型吞吐量，可以从显存利用率优化、多实例部署、参数调优和流程优化等多个维度入手，以下是具体建议：一、提高gpu-memory-utilization的效果与操作gpu-memory-utilization

·2025-07-27 23:48

✨零基础手把手｜Docker+vLLM极速部署OpenAI风格API：5分钟4卡GPU推理+避坑指南+完整镜像配置

一、Docker基础命令查看容器状态Bashdockerps#查看运行中的容器dockerps-a#查看所有容器（包括已停止的）查看镜像列表Bashdockerimages#列出本地所有镜像二、镜像与容器操作镜像打包为.tar文件Bashdockersave-o#将镜像导出为.tar文件#示例：dockersave-omy_image.tarvllm/vllm-openai:v0.8.4打包多个镜

杨靳言先·2025-07-27 17:09

ERNIE-4.5-0.3B 实战指南：文心一言 4.5 开源模型的轻量化部署与效能跃升

2025年6月30日，文心一言4.5系列模型正式开源，其中ERNIE-4.5-0.3B这款仅3亿参数的轻量模型，为破解大模型产业落地的三大困局提供了全新方案：算力门槛：从千万级GPU集群降至消费级单卡部署成本控制

·2025-07-27 08:01

深度学习GPU工作站主机选择指南：以RTX 5090为核心的2025年配置策略

这款基于Blackwell架构的旗舰GPU不仅在游戏领域表现卓越，更在AI和深度学习应用中展现出前所未有的性能实力。

·2025-07-27 07:27

阿里云代理商：弹性计算新标杆——深度解析阿里云第七代云服务器黑科技

二、第七代云服务器的核心优势1.更强的计算能力2.更高的网络带宽3.更高的可靠性和容错性4.弹性扩展能力三、第七代云服务器的“黑科技”背后1.基于AI和大数据的智能调度2.硬件级别的安全性增强3.自研虚拟化技术

v_junsouyun06·2025-07-26 23:54

深度学习-数据操作

GPU很好地支持加速计算，而NumPy仅支持CPU计算；并且张量类支持自动微分。这些功能使得张量类更适合深度学习。张量表示一个由数值组成的数组，这个数组可能有多个维度。

·2025-07-26 21:35

网络技术英文术语大全，强烈建议收藏！

目录：文章目录网络基础术语网络协议术语网络硬件与设备术语故障排查与性能优化术语网络安全术语新兴技术术语网络管理术语高级路由技术术语无线网络术语网络虚拟化术语存储网络术语杂项高级术语网络基础术语这些术语是网络工程师的

wljslmz·2025-07-26 20:27

第十四章:AI的数据“集装箱”：彻底搞懂Tensor的Batch与维度

1：Batch（批次）——GPU的“灵魂伴侣”1.1单个处理vs.批量处理：CPU与GPU的思维差异1.2DataLoader：PyTorch的“自动化装箱员”2：维度的语言——破译[B,L,D]的含义

爱分享的飘哥·2025-07-26 16:28

模型剪枝（分析）

defget_layer_level_pruning_rate(args):device=torch.device("cuda"iftorch.cuda.is_available()else"cpu")功能：检测可用设备（优先使用GPU

yc_hu·2025-07-26 11:59

【奔跑吧！Linux 内核（第二版）】第3章：ARM64架构基础知识

虚拟化和安全特性在ARMv7上已经实现，但是对大内存的支持显得有点

Jia ming·2025-07-26 05:19

云计算与虚拟化技术

目录一、云计算1.1什么是云计算1.2云计算核心1.3云计算优点1.4云计算应用二、虚拟化技术2.1虚拟化技术简介2.2虚拟化技术优势2.3虚拟化技术应用三、虚拟化技术与云计算之间的关系3.1虚拟化技术与云计算关系密切

·2025-07-26 02:27

【WebGPU学习杂记】数学基础拾遗（1）三角学基础

本文主要记录一些基础数学中的关键术语、公式、定义，方便查阅并基于此拓展和补充。部分内容需要有函数基础。主要目的是熟悉这些公式即可，如果能够手推公式效果最理想（增加对公式的信任感）。基础概念内角、外角、补角、对边、临边内角、外角和均为π\piπ、任意两边长度加和>第三边相似：三边对应成比例两边对应成比例且夹角相等两角对应角度相等全等：三边相等、两边对应相等且夹角相等、双边角对应相等且夹边对应相等单位

·2025-07-26 00:08

云计算核心技术原理 & 底层核心技术详解

其底层核心技术主要包括以下几个方面：虚拟化技术虚拟化是云计算的基础，它允许在单一物理硬件上运行多个虚拟机实例，实现资源的高效共享与隔离。

AI天才研究院·2025-07-25 21:19

2023年阿里云服务器补贴活动，新品u1系列云服务器限时低至3.8折

阿里云2023年推出云服务器补贴活动，新品u1系列云服务器限时低至3.8折，还有热卖s6/c6/g6/r6系列云服务器特惠和GPU云服务器包月4折，半年3.5折，1-2年3折优惠，新用户场景组合购低至3

阿里云最新优惠和活动汇总·2025-07-25 19:50

OpenCV结合深度学习进行图像分类

文章目录1.支持的深度学习框架和模型格式2.模型加载方式加载预训练模型示例：3.图像预处理流程4.前向传播与推理5.结果解析与后处理6.性能优化技巧启用GPU加速：批量处理：代码示例在资源中有上传1.支持的深度学习框架和模型格式

香蕉可乐荷包蛋·2025-07-25 19:35

ffmpeg 调用gpu进行转码

ffmpeg-hwaccelcuvid-irtsp://admin:[email protected]/h264/ch1/main/av_stream-c:vh264_nvencD://nginx-1.20.2//nginx-1.20.2//html//m3u8//136.m3u8

wcy10086·2025-07-25 18:59

企业资产管理智能化：IT运维如何借力数字化管理提效避坑？

无论是硬件设备（服务器、终端、网络设备）、软件资产，还是云资源、虚拟化环境，数量和类型愈发繁杂。面对资产量激增、运维压力倍增和合规管控需求，智能化资产管理和IT运维成为提升企业核心竞争力的关键一环。

·2025-07-25 12:22

AURIX™ TC49x芯片手册中文分享（二）

1、功能模块的特征中央处理器(CPU)32位加载存储小端序架构16位和32位指令，以减少代码大小单精度和双精度浮点单元（IEEE-754-2019）虚拟化时间保护系统允许有时间限制的实时操作非易失性存储器

鱼仔爱喝苹果汁·2025-07-25 11:13

k8s通过NUMA亲和分配GPU和VF接口

问题一般情况下，sriov插件和gpu分配插件是单独工作的，网卡和GPU没有根据连接关系分配如果一个节点起了多个容器，会造成GPU和网卡的通信瓶颈修改如果一个点起两个容器，可以按照NUMA亲和来分配修改

aashuii·2025-07-25 10:09

光影双生：实时与离线渲染的共生竞合图景

GPU算力的指数级增长，从固定管线到高度可编程渲染管线的革命性跨越，为实时图形解锁了前所未有的自由度。NVIDIAOptiX等光线追踪引

渲吧-云渲染·2025-07-25 00:18

华为OD机试任务调度

本期题目：任务调度题目为了充分发挥GPU算力，需要尽可能多的将任务交给GPU执行，现在有一个任务数组，数组元素表示在这1s内新增的任务个数，且每秒都有新增任务。

梦想橡皮擦·2025-07-24 20:04

【服务器】 MCTP Over PCIe 的内容、用途、工作原理及硬件设计注意事项

它广泛应用于服务器、数据中心和嵌入式系统中，用于监控和控制硬件设备（如CPU、GPU、SSD等）。MCTP协议规范主要内容1.协

·2025-07-24 19:51

编程与数学 03-001 计算机组成原理 21_服务器计算机组成实例解析

编程与数学03-001计算机组成原理21_服务器计算机组成实例解析一、引言二、硬件架构特点（一）多核/多处理器设计（二）大容量高带宽内存（三）存储系统（四）高可用性设计三、性能优化技术（一）并行计算（二）虚拟化支持

·2025-07-24 18:17

【运维】SGLang服务器参数配置详解

常用启动命令多GPU张量并行python-msglang.launch_server--model-pathmeta-llama/Meta-Llama-3-8B-Instruct--tp2多GPU数据并行

EulerBlind·2025-07-24 18:17

多路视频播放优化之——播放渲染优化

渲染方式目前视频播放渲染总体上分为CPU渲染和GPU渲染。为了使视频监控客户端可以播放多路视频，优先使用GPU渲染播放界面更好。GPU渲染在这里使用OpenGL库。

米优·2025-07-24 17:10

HDU 4628 Pieces (状压DP+记忆化搜索)

pid=4628#includeusingnamespacestd;#definedebugputs("YES");#definerep(x,y,z)for(int(x)=(y);(x)>=1,x=x*

·2025-07-24 16:35

Python依赖冲突

笔者在安装scikit-image包时发现tensorflowimport时直接崩溃，后发现scikit-image(后简称skimage)和tensorflow-gpu(后简称tensorflow)都依赖于

若宮いヴ·2025-07-24 16:34

使用多块AMD GPU通过Megatron-DeepSpeed进行大型语言模型的预训练

Pre-trainingalargelanguagemodelwithMegatron-DeepSpeedonmultipleAMDGPUs2024年1月24日，作者：DouglasJia在这篇博客中，

109702008·2025-07-24 15:55

[V-03] 虚拟化基础-指令集架构(ISA)(基于AArch64)

奔跑的架构师·2025-07-24 13:12

Docker

Docker可以让开发者打包他们的应用以及依赖包到一个轻量级、可移植的容器中，然后发布到任何流行的Linux机器上，也可以实现虚拟化。

·2025-07-24 08:09

在离线 Ubuntu 22.04机器上运行 ddkj_portainer-cn 镜像其他相关操作也可以复刻 docker

以下有免费的4090云主机提供ubuntu22.04系统的其他入门实践操作地址：星宇科技|GPU服务器高性能云主机云服务器-登录相关兑换码星宇社区---4090算力卡免费体验、共享开发社区-CSDN博客兑换码要是过期了

努力一点948·2025-07-24 06:23

在 Ubuntu 上将 Docker 降级到版本 25.0.5 （二）降低版本，涉及兼容性问题