Tensor 第15页

Megatron-LM训练框架和Deepspeed训练框架最主要的异同和优劣是什么

核心异同点并行策略Megatron-LM核心：以张量并行（TensorParallelism）和流水线并行（PipelineParallelism）为主，结合数据并行。

强化学习曾小健·2025-03-19 09:15

Ubuntu20.04 RTX4060 AI环境搭建

下面记录在Ubuntu20.04环境下，使用ASUSATS-RTX4060-O8G-V2显卡，搭建NvidiaTensorRT开发环境。

stxinu·2025-03-19 05:03

大数据开发之Kubernetes篇----安装部署Kubernetes&dashboard

Kubernetes简介由于公司有需要，需要将外后的服务外加Tensorflow模型部署加训练全部集成到k8s上，所以特意记录下这次简单部署的过程。

豆豆总·2025-03-18 06:02

pytorch的使用：卷积神经网络模块

1.读取数据分别构建训练集和测试集（验证集）DataLoader来迭代取数据使用transforms将数据转换为tensor格式#定义超参数input_size=28#图像的总尺寸28*28num_classes

樱花的浪漫·2025-03-18 00:11

torch.unsqueeze：灵活调整张量维度的利器

在深度学习框架PyTorch中，张量（Tensor）是最基本的数据结构，它类似于NumPy中的数组，但可以在GPU上运行。在日常的深度学习编程中，我们经常需要调整张量的维度以适应不同的操作和层。

冰蓝蓝·2025-03-17 23:07

PyTorch中，将`DataLoader`加载的数据高效传输到GPU

一、数据加载到GPU的核心步骤数据预处理与张量转换若原始数据为NumPy数组或Python列表，需先转换为PyTorch张量：X_tensor=torch.from_numpy(X).float()#转换为浮点张量

大霸王龙·2025-03-17 20:42

PyTorch中tensor赋值运算符

t=torch.ones((3,3))t0=tt1=t.dataprint(id(t),id(t0),id(t1),id(t.data))运行结果：2132926456040213292645604021332763196402132924110392t0与t完全相同。t1与t.data地址不一样（但是，t1.data与t.data地址相同）

华zyh·2025-03-17 19:33

如何使用Python实现生成对抗网络（GAN）

下面是一个简单的Python实现，使用TensorFlow和Keras库。在开始之前，请确保已经安装了TensorFlow和Keras。imp

「已注销」·2025-03-17 16:13

数据读取错误：RuntimeError: The size of tensor a (3) must match the size of tensor b (4) at non-singleton

去除4通道图像：importcv2importosimportshutilfolder_path=R'F:\bounding_box_test\bounding_box_train'#更改为存储图片文件夹的路径image_files=os.listdir(folder_path)count=0forfile_nameinimage_files:iffile_name.endswith('.jpg'

hitsz_syl·2025-03-17 07:07

从零开始大模型开发与微调：PyCharm的下载与安装

PyTorch和TensorFlow等深度学习框架为训练和微调大型语言模型提供了强大的支持。PyCharm

AI天才研究院·2025-03-17 06:55

tensorflow 不支持python3以下的版本

小白一枚，没用过tensorflow，所以在安装的时候导致版本错误安装不上。遇到这种情况建议换python的版本。

辽宁大学·2025-03-16 22:21

3.13.0 python 配置tensorflow（CPU版本）

condacreate--nametestpython=3.12activatetestpipinstalltensorflow上面3步骤在condaprompt里完成退出时记得condadeactivate

m0_Gattuso·2025-03-16 21:48

CMake Error at myplugins_generated_yololayer.cu.o.Debug，tensorrtx编译失败解决

system:ubuntu1804gpu:3060cuda:cuda11.4tensorrt:8.4使用项目tensorrtx进行yolov5的engine生成，之前在编译成功的配置为system:ubuntu1804gpu

雪可问春风·2025-03-16 08:11

TensorRT-LLM保姆级教程-快速入门

本系列将针对TensorRT-LLM推理进行讲解。本文为该系列第一篇，将简要概述TensorRT-LLM的基本特性。另外，我撰写的大模型相关的博客及配套代码均整理放置在Github，有需要的朋友自

大模型八哥·2025-03-16 02:34

模型可解释性：基于博弈论的SHAP值计算与特征贡献度分析（附PyTorch/TensorFlow实现）

一、技术原理与数学推导（含典型案例）1.1Shapley值基础公式SHAP值基于合作博弈论中的Shapley值，计算公式为：ϕi=∑S⊆F∖{i}∣S∣!(∣F∣−∣S∣−1)!∣F∣![f(S∪{i})−f(S)]\phi_i=\sum_{S\subseteqF\setminus\{i\}}\frac{|S|!(|F|-|S|-1)!}{|F|!}[f(S\cup\{i\})-f(S)]ϕi=S

燃灯工作室·2025-03-15 23:43

【深度学习与大模型基础】第3章-张量

今天我们来聊聊张量（Tensor）。别被这个词吓到，其实它没那么复杂。什么是张量？简单来说，张量就是一个多维数组。你可以把它看作是一个装数据的容器，数据的维度可以是一维、二维，甚至更高。

lynn-66·2025-03-15 23:08

pytorch训练权重转化为tensorflow模型的教训

shuffleoperation(shuffle操作)这个操作原本是用来将各个通道之间的信息进行打乱后，此时面临重要的问题就是，如果将通道打乱，在pytorch里面与tensorflow中间，两种通道排序是不一样的

小枫小疯·2025-03-15 21:57

OpenCV 深度学习模块 cv2.dnn 与其他深度学习框架的优缺点对比及适用场景

相比于TensorFlow、PyTorch等其他深度学习框架，cv2.dnn有其独特的优点与缺点，适用于不同的应用场景。在这篇文章中，我们将详细分析cv2.dnn的优缺点，并讨论它的适用场景。

白.夜·2025-03-15 21:26

scaled_dot_product_attention实现逻辑

torch.nn.functional.scaled_dot_product_attention(query,key,value,attn_mask=None,dropout_p=0.0,is_causal=False,scale=None,enable_gqa=False)->Tensor

凤梧长宜放眼量·2025-03-15 17:27

【PyTorch】PyTorch 中改变张量形状的几种方法

PyTorch中改变张量形状的几种方法在深度学习领域，PyTorch是一个广泛使用的框架，它提供了丰富的API来处理张量（tensor）。在模型开发过程中，我们经常需要改变张量的形状以满足特定的需求。

shengchao0920·2025-03-15 17:27

【Transformer-Hugging Face手册 07/10】微调预训练模型

2.1加载数据2.2训练2.2.1使用PyTorchTrainer进行训练2.3训练超参数2.4评价2.5训练类三、使用Keras训练TensorFlow模型3.1为Keras加载数据3.2将数据加载为

无水先生·2025-03-15 13:54

H100解锁生成式AI算力新纪元

其创新性设计聚焦三大技术支柱：第三代TensorCore通过稀疏计算与混合精度支持，显著提升矩阵运算效率；显存带宽优化技术结合HBM3高带宽内存，将数据吞吐量提升至3.35TB/s，有效缓解大规模模型训练中的显存墙问题

智能计算研究中心·2025-03-14 22:43

数据分析及人工智能框架汇总

一、数据分析二、人工智能1、Tensorflow1、简介TensorFlow是谷歌基于DistBelief进行研发的第二代人工智能学习系统，其命名来源于本身的运行原理。

xihuanyuye·2025-03-14 21:00

python和pytorch关系_PyTorch：Python优先的深度学习框架

PyTorch是一个Python软件包，其提供了两种高层面的功能：使用强大的GPU加速的Tensor计算（类似numpy）构建于基于tape的autograd系统的深度神经网络如有需要，你也可以复用你最喜欢的

weixin_39877182·2025-03-14 02:36

本地部署时，如何通过硬件加速（如 CUDA、TensorRT）提升 DeepSeek 的推理性能？不同显卡型号的兼容性如何测试？

GPU加速验证：运行以下代码检查硬件加速状态：importtensorflowastfprint("可用GPU数量：",len(tf

百态老人·2025-03-13 14:43

人工智能 - TensorRT与DeepDP终极指南：释放GPU潜能的深度学习推理优化之道

TensorRTTensorRT（TensorRuntime）是英伟达（NVIDIA）推出的高性能深度学习推理（Inference）优化器和运行时库，专为在NVIDIAGPU上高效部署深度学习模型而设计

天机️灵韵·2025-03-13 13:36

onnx处理和TensorRT量化推理相关代码工具

一.说明在模型量化过程中，经常要使用一些工具对onnx或者量化后的模型（这里以TensorRT为例）进行推理，往往需要一些处理工具，比如：拆分或者合并onnx；修改onnx中的量算子QuantizeLinear

天亮换季·2025-03-13 12:26

训练大模型LLM选择哪种开发语言最好

大0马浓·2025-03-13 05:09

如何将装有tensor的多维list转化为torch.Tensor类型

普通list转tensor：a=[[jforjinrange(5)]foriinrange(3)]A=torch.Tensor(a)print('list=',a)print('typeofa:',type

XAL1·2025-03-13 02:09

CUDA12.1 cudnn9.0.1 python3.10.12配置TensorRT8.6.1，完成yolov12tensorRT推理完整过程

一、配置TensorRT8.6.11.下载TensorRT8.6.1包TensorRT完全依赖CUDA，因此下载其版本时一定要考虑CUDA的版本。

李卓璐·2025-03-13 01:33

开发ai模型最佳的系统是Ubuntu还是linux？

在AI/ML开发中，Ubuntu是更优选的Linux发行版，原因如下：1.开箱即用的AI工具链支持Ubuntu预装了主流的AI框架（如TensorFlow、PyTorch）和依赖库，且通过apt包管理器可快速部署开发环境

俺足·2025-03-12 22:18

如何增强机器学习基础，提升大模型面试通过概率

面试官不仅要求候选人熟练使用深度学习框架（如PyTorch、TensorFlow），还希望他们具备扎实的机器学习理论基础、算法实现能力和实际问题解决经验。本文将从机器学习基础入手

weixin_40941102·2025-03-12 19:55

AI系统架构

关键组成计算硬件GPU（如NVIDIAA100、H100）TPU（GoogleTensorProcessingUnit）NPU（如华为昇腾、寒武纪等）CPU（用于轻量级推理任务）

flying robot·2025-03-12 07:32

机器学习入门指南：从 TensorFlow 到 PyTorch

机器学习入门指南：从TensorFlow到PyTorch机器学习（MachineLearning）是人工智能的核心领域之一，近年来在图像识别、自然语言处理、推荐系统等领域取得了巨大进展。

6v6-博客·2025-03-12 06:23

多模态大模型：技术原理与实战模型压缩实战

多模态大模型：技术原理与实战模型压缩实战作者：禅与计算机程序设计艺术/ZenandtheArtofComputerProgramming关键词：多模态大模型，技术原理，模型压缩，实战，TensorFlow

AGI大模型与大数据研究院·2025-03-12 01:16

Pytorch 张量的scatter_add_方法介绍

torch.Tensor.scatter_add_是PyTorch中的一个原地操作（in-placeoperation），用于将一个源张量（src）中的值根据指定的索引（index）累加到目标张量（self

qq_27390023·2025-03-12 01:42

H100架构解析与性能优化策略

本文将从核心架构创新与典型场景调优两个维度展开：首先解析第三代TensorCore的稀疏计算加速机制、FP8混合精度支持特性及其对矩阵运算的优化效果；其次，针对显存子系统中HBM3堆栈布局、L2缓存分区策略以及数据预取算法的协同优化进行拆解

智能计算研究中心·2025-03-11 21:36

基于PyTorch的深度学习6——数据处理工具箱2

transforms提供了对PILImage对象和Tensor对象的常用操作。1)对PILImage的常

Wis4e·2025-03-11 07:47

DeepSeek源码解析（2）

Tensor（张量）的介绍在计算机科学和机器学习领域，“张量”（Tensor）是一个数学概念，它被用来表示多维数组。

白鹭凡·2025-03-11 01:26

vllm多卡部署Qwen2.5-72B-Instruct-GPTQ-Int4

双卡v10032G部署结果如下，推理时长16s3卡，tensor_parallel_size=3，tensor并行的数量一定要能被attentionheads整除4卡，tensor_parallel_size

Yanc_L·2025-03-10 20:54

ONNX GraphSurgeon详细介绍

ONNXGraphSurgeon常用于TensorRT中，用来优化和调整ONNX模型，以便于模型可以高效地在GP

Lntano__y·2025-03-10 19:12

基于PyTorch的深度学习4——使用numpy实现机器学习vs使用Tensor及Antograd实现机器学习

首先，给出一个数组x，然后基于表达式y=3x2+2，加上一些噪音数据到达另一组数据y。然后，构建一个机器学习模型，学习表达式y=wx2+b的两个参数w、b。利用数组x，y的数据为训练数据。最后，采用梯度梯度下降法，通过多次迭代，学习到w、b的值。以下为具体步骤：1)导入需要的库。importnumpyasnp%matplotlibinlinefrommatplotlibimportpyplotas

Wis4e·2025-03-10 09:09

python可應用在金融分析的那一個方面，如何部署在linux server上面。

**機器學習與預測**-使用**scikit-learn**、**TensorFlow**或**PyTorch**建立模型進行股票價格預測、信用風險評估

蠟筆小新工程師·2025-03-10 07:48

Ollama Modelfile详解及验证

Modelfile2.2.1llama3.2Modelfile2.2.2Deepseek-r1:1.5bModelfile3指令3.1FROM(Required)3.1.1从现有模型构建3.1.2从Safetensors

Karl_zhujt·2025-03-10 03:50

科技早报 | B站崩了、小红书崩了上热搜；OpenSSH漏洞预警：无需用户交互，可提权至 root | 最新快讯

消息称谷歌TensorG5芯片已流片，预计采用3nm制摘要：谷歌下一代Tens

最新科技快讯·2025-03-09 19:11

tensorflow keras 报错：No gradients provided for any variable 原因与解决办法

错误分析Nogradientsprovidedforanyvariable这个意思是没有梯度给已知的所有函数，为什么会出现这个错误呢，因为在深度学习中，梯度的更新是由于反向传播算法的实现的，如果损失函数没有与已知的任何（除输入）层关联，那么，损失函数就无法求出关于各个函数的梯度，导致错误解决办法例如损失函数defcontrastive_loss_layer(left_inputs,right_in

研志必有功·2025-03-09 06:26

TensorFlow的基本框架和理解-初学者通过这一篇文章就够了

tensorflow的理解Tensorflow是一种机器学习框架，如果我们有大量的数据，我们可以利用他协助医生检查糖尿病性视网膜病变来预防患者失明等应用新版本中一个有趣的功能是eagerexecution

无人不智能，机器不学习·2025-03-09 06:53

Jetson系列: tensorrt-python推理yolov5（一）

目录一.onnx模型导出二.TensorRT模型本地序列化三.算法整体Pipline架构四.算法整体Pipline实现一.onnx模型导出在使用tensorrt进行加速之前需要将自己的torch模型转为

weixin_55083979·2025-03-08 20:08

Python 在 AI 领域的应用：从零构建你的第一个 AI 模型

其强大的库和框架，如TensorFlow、PyTorch、scikit-learn，使AI开发变得更加简单高效。

嵌入式Jerry·2025-03-08 19:40

推荐频道

Tensor