Qwen2.5推理

从零开始理解零样本学习：AI人工智能必学技术

零样本学习（Zero-ShotLearning,ZSL）就像AI的“推理翻译官”，能让机器通过“文字描述”理解“没见过的图片”。本文将用“认新单词”的生活故事，一步步拆解零
AI学长带你学AI·2025-06-27 06:11

DeepSeek打破AI天花板：MoE架构+RL推理，效率提升5倍的底层逻辑

文章目录一、引言二、MoE架构：高效计算的核心支撑（一）MoE架构概述（二）DeepSeekMoE架构的创新点（三）MoE架构的代码实现示例三、RL推理：智能提升的关键驱动（一）RL推理概述（二）R1的训练流程
泡泡Java·2025-06-27 02:13

借力 提示词检索解码与 OpenVINO™ GenAI 全面提升 LLM 推理

然而，推理效率依然是一个关键挑战，尤其在需要低延迟响应的场景下更为突出。试想你在一家餐厅，经常点同样的菜。
OpenVINO 中文社区·2025-06-27 01:35

聚焦OpenVINO与OpenCV颜色通道转换的实践指南

颜色通道顺序问题：OpenVINO模型RGB输入与OpenCVBGR格式的转换在计算机视觉任务中，框架间的颜色通道差异常导致模型推理错误。
·2025-06-26 23:22

重磅！OpenAI 模型 o3 拒绝关闭引担忧，AI 自主性突破引发安全讨论

据英国《每日电讯报》5月25日报道，OpenAI最新推理模型o3在测试中展现出惊人的自主性：当人类专家下达“自我关闭”指令时，该模型竟通过篡改计算机代码阻止关闭程序执行。
AI生存日记·2025-06-26 21:03

深度学习目标检测中使用YOLOv8训练树冠检测数据集，从环境设置、数据准备、模型训练、推理和结果可视化

深度学习目标检测中使用YOLOv8训练树冠检测数据集，从环境设置、数据准备、模型训练、推理和结果可视化文章目录1.环境设置2.数据准备3.模型训练4.推理与结果可视化推理代码示例5.构建可视化界面PyQt5GUI
计算机C9硕士_算法工程师·2025-06-26 18:41

讯飞星火（iFlytek Spark）：科大讯飞打造的国产AI大模型平台

1.产品概述讯飞星火（iFlytekSpark）是科大讯飞自主研发的认知大模型，定位于通用人工智能（AGI）平台，集成了文本生成、语言理解、知识问答、逻辑推理、数学计算、代码生成和多模态交互等核心能力。
明似水·2025-06-26 17:09

qwen3 + qwen agent

前不久阿里发布了qwen3开源模型，据说性能比deepeek还要强，之前体验过qwen2.5当时感觉还不错，据说现在的qwen38b就相当于qwen2.5的14b性能，不过我也不是专业人员，也不知道到底是有多强
t梧桐树t·2025-06-26 14:20

Are Multimodal Large Language Models Pragmatically Competent Listeners in Simple Reference

具体内容如下：1.研究目的考察LLaVA-NeXT、Qwen2-VL和JanusPro等MLLMs在“导演-匹配者”式参考游戏中，对颜色和空间布局的语境化语用推理能力，验证其是否能像人类一样根据视觉上下文解析指称表达
UnknownBody·2025-06-26 13:46

使用LangChain与Solar进行文本嵌入

Solar是一种简单易用的嵌入服务，提供了强大的推理能力，可以轻松地将文本转换为嵌入向量。核心
Zbb159·2025-06-26 11:04

Hoare逻辑与分离逻辑：从程序验证到内存推理的演进

文章目录引言一、Hoare逻辑基础：程序正确性的形式化验证例子：简单赋值语句的Hoare逻辑验证例子：条件语句的Hoare逻辑验证二、分离逻辑：Hoare逻辑在内存管理中的扩展分离逻辑的核心扩展点例子：内存分配的分离逻辑验证例子：链表节点操作的分离逻辑三、Hoare逻辑与分离逻辑的对比四、总结：分离逻辑如何扩展Hoare逻辑引言Rust的形式化验证工具Prusti是基于Viper验证基础设施的工具
老猿讲编程·2025-06-26 09:22

阿里重磅开源 Mnn3dAvatar：3D 数字人实时面捕，直播带货新利器！

Mnn3dAvatar基于阿里巴巴开源的轻量级深度学习推理框架MNN（MobileNeuralNetwork）开发而成。与传统的Live2D技术不
Icoolkj·2025-06-26 05:49

MNN 支持 InternVL 多模态大模型

为了使InternVL模型能够在MNN（MobileNeuralNetwork）推理框架中高效运行，我们对其进行了适配和优
夕阳叹·2025-06-26 05:19

【RKNN】RKNN-Toolkit2 Python API之accuracy_analysis函数详解

accuracy_analysis()是RKNN-Toolkit2中用于量化精度分析的核心接口，通过对比浮点模型与量化模型（或NPU硬件推理）的输出差异，定位量化误差来源。
浩瀚之水_csdn·2025-06-26 00:17

如何在 CloudMatrix 384 超节点上部署 DeepSeek 大模型：业界首次公开非英伟达体系下解决此类技术难题的论文

ServingLargeLanguageModelsonHuaweiCloudMatrix384》的简要解说与技术分析文章，深入剖析了CloudMatrix384架构设计、CloudMatrix-Infer推理引擎实现及其在
猫头虎·2025-06-25 23:38

Python 人工智能Ai视觉模型 YOLOv8

核心特点高性能：在速度和精度之间取得了更好的平衡多功能：支持目标检测、实例分割和图像分类用户友好：简化了API设计，更易于使用可扩展性：支持从移动端到云端的多种部署场景主要改进更高的检测精度更快的推理速度
GHY云端大师·2025-06-25 22:59

Yolov5 ONNX Runtime 的 Python 部署

然后用onnxruntime推理框架在Python上进行部署。主要是为了测试模型的准确，模型部署的最终是用C++部署，从而部署在嵌入式设备等。
爱钓鱼的歪猴·2025-06-25 21:26

RapidOCR4j项目学习

识别：支持Windows、Linux、macOS（包括Intel和ARM架构）多种图片输入方式：支持图片路径（Path）、BufferedImage、byte[]、OpenCV的Mat四种输入类型模型推理
cmdch2017·2025-06-25 21:56

TensorFlow Lite (TFLite) 和 PyTorch Mobile介绍2

PyTorchMobile两大轻量化框架的核心用途、典型应用场景及在嵌入式开发中的实际价值对比，结合你的OrangePiZero3开发板特性进行说明：TensorFlowLite(TFLite)核心用途嵌入式设备推理
追心嵌入式·2025-06-25 20:18

【vLLM 学习】Disaggregated Prefill

vLLM是一款专为大语言模型推理加速而设计的框架，实现了KV缓存内存几乎零浪费，解决了内存管理瓶颈问题。
·2025-06-25 16:27

火山引擎发布大模型生态广场MCP Servers，LAS MCP助力AI数据湖构建

开发者社区近日，火山引擎发布大模型生态广场——MCPServers，借助字节跳动生态能力，通过“MCPMarket（工具广场）+火山方舟（大模型服务）+Trae（应用开发环境）”深度协同，实现工具调用、模型推理到应用部署的全链路开发闭环
·2025-06-25 09:01

【推理加速】TensorRT C++ 部署YOLO11全系模型

YOLO11YOLO11C++推理YOLO11是Ultralytics最新发布的目标检测、实例分割、姿态评估的系列模型视觉轻量化框架，基于前代YOLO8版本进行了多项改进和优化。
gloomyfish·2025-06-25 08:25

vllm docker容器部署大语言模型

VLLM（VeryLargeLanguageModelInference）是一个高性能、优化显存管理的大模型推理引擎。
zhangxiangweide·2025-06-25 07:15

OpenHarmony 中与 OpenCV / AI 引擎的接口集成机制：图像采集到智能识别的完整通路实践

OpenHarmony中与OpenCV/AI引擎的接口集成机制：图像采集到智能识别的完整通路实践关键词：OpenHarmony、OpenCV集成、AI推理引擎、图像流接口、CameraKit、NPU加速
·2025-06-25 06:35

LocalAI: OpenAI、Claude 等的开源替代

LocalAI充当与OpenAI兼容的直接替代RESTAPI（Elevenlabs、Anthropic...本地AI推理的API规范。它允许您使用消费级硬件在本地或本地运行LLM、生成图像、
小众AI·2025-06-25 05:54

YOLO + OpenVINO 在英特尔平台部署实战：性能调优与跨架构加速全流程指南

YOLO+OpenVINO在英特尔平台部署实战：性能调优与跨架构加速全流程指南关键词：YOLOv5、YOLOv8、OpenVINO、英特尔部署、IR模型、异构加速、CPU推理、VPU、GPU、多设备调度
·2025-06-25 04:49

贝叶斯算法：从概率推断到智能决策的基石

##引言在人工智能与机器学习的蓬勃发展中，贝叶斯算法以其独特的概率推理方式和动态更新的特性，在垃圾邮件过滤、疾病诊断、推荐系统等关键领域展现出强大的应用价值。
weixin_47233946·2025-06-25 03:17

世界顶尖大语言模型（按公司分类）

这些模型在语言理解、推理、代码生成、多模态能力等方面处于世界领先地位。
nbspzs·2025-06-24 21:30

从7B到671B：DeepSeek R1大模型微调的GPU选型终极指南

这种指数级增长不仅考验硬件工程师的决策能力，更揭示了算力投资的核心法则：选错GPU的代价，远不止于训练失败——轻则增加30%推理延迟，重则造成百万级硬件成本的浪费。我们
卓普云·2025-06-24 17:54

C++、OpenVINO部署YOLOv5模型的指南（Windows）

C++、OpenVINO部署YOLOv5模型的指南（Windows）一、环境准备硬件要求软件配置二、模型转换流程1.导出ONNX模型2.转换为OpenVINOIR格式三、C++推理实现核心代码结构后处理关键算法四
马里马里奥-·2025-06-24 15:13

大模型强化微调GRPO——DeepSeekMath: Pushing the Limits of MathematicalReasoning in Open Language Models

1.概述大型语言模型（LLM）革新了人工智能领域的数学推理方法，在定量推理基准测试（Hendrycks等，2021年）和几何推理基准测试（Trinh等，2024年）方面取得了重大进展。
樱花的浪漫·2025-06-24 15:43

20倍推理加速秘诀！揭秘批处理（Batching）的底层优化逻辑 | 附工业级调优指南

批处理（Batching）指在模型推理时一次性输入多个样本（如图像、文本序列）而非逐条处理。
Lilith的AI星球·2025-06-24 14:07

AI能耗激增背后：大模型的环境成本与人类认知代价

这一数据出自昨日发布的能效研究报告，该研究对比了当前主流AI模型的能源效率，发现推理模型的能耗普遍达到非推理模型的4-6倍，而准确率提升却相对有限。
未来智慧谷·2025-06-24 09:05

H5在小程序领域的地图应用开发指南

通过逐步分析推理，为开发者提供了全面且深入的开发指南，助力开发者掌握H5在小程序中开发地图应用的技术和方法，应对开发过程中的各种挑战。1.
小程序开发2020·2025-06-24 07:23

Hugging Face 一键部署代码模型

摘要：全球最大的开源AI社区HuggingFace近日宣布，其广受欢迎的InferenceEndpoints（推理端点）服务现已全面支持代码生成模型。
儿女初养·2025-06-24 07:20

【嵌入式】鲁班猫玩法大全

文章目录鲁班猫玩法大全一、开发平台概况二、开发路线总览（学习+项目实践）三、项目实战模块划分（学习建议）M1.嵌入式Linux基础与设备树入门M2.驱动开发实践M3.多媒体与图形系统M4.边缘AI推理模块
CodeWithMe·2025-06-24 05:38

企业级多租户环境下的 cgroup 精细化调控实践：容器资源隔离与性能优化全流程解析

cgroup精细化调控实践：容器资源隔离与性能优化全流程解析关键词：多租户隔离、cgroupv2、容器资源限制、CPU/内存控制、容器调度、QoS策略、Linux内核调优、容器平台优化、资源突发治理、LLM推理容器管理摘要
观熵·2025-06-24 03:56

教师-学生协同知识蒸馏机制在私有化系统中的融合路径：架构集成、训练范式与部署实践

架构集成、训练范式与部署实践关键词：私有化部署、知识蒸馏、教师模型、学生模型、协同蒸馏、蒸馏训练、边缘部署、模型压缩、国产大模型、自监督微调摘要：随着国产大模型在企业私有化环境中的广泛部署，模型的压缩与推理性能优化成为核心挑战之一
观熵·2025-06-24 03:25

【自注意力簇动力学引擎】解题示例

【题目】这节课，老师教了同学们有关推理的技巧。
步子哥·2025-06-24 00:42

30天pytorch从入门到熟练（day1）

其目标在于通过全流程自研方式，深入理解模型构建、训练优化、推理部署的关键技术环节。
·2025-06-23 22:53

XCVU47P-2FSVH2892E Xilinx Virtex UltraScale+ FPGA AMD

1.超大规模逻辑资源搭载约285万逻辑单元与16万多个可编程逻辑模块（ALM），适合构建超复杂的硬件算法，如AI推理引擎、大规模状态机与并行数据流处理器。2.万级DSP运算单元9,000
XINVRY-FPGA·2025-06-23 19:34

文心一言（ERNIE Bot）：百度打造的知识增强大语言模型

1.产品概述文心一言（ERNIEBot）是百度自主研发的知识增强大语言模型，于2023年3月16日正式发布，对标OpenAI的ChatGPT，具备文本生成、多模态交互、逻辑推理、中文理解等能力。
明似水·2025-06-23 18:25

大模型驱动核工业智能化的技术架构与核心突破

从数据闭环到自主决策，解码核能系统的AI技术演进路径Deepoc大模型通过构建多维度技术体系，在知识结构化处理、逻辑推理优化及多模态验证机制等方向取得关键技术突破，有效提升生成内容与行业知识库的匹配度。
Deepoch·2025-06-23 16:15

DeepSeek核心技术浅谈

量化版本：模型不变，通过降低参数精度，提高推理效率。蒸馏版本：将大模型的知识压缩到更小的模型中，性能稍弱但轻便高效。
·2025-06-23 15:07

鸿蒙应用开发实战：HarmonyOS SDK AI 赋能图像分类

其核心优势在于模型推理高效、隐私安全（数据本地处理）且集成流畅。下面以最典型的图像分类任务为例，分享实战经验与核心代码集成。核心流程与代码实现：整个流程围绕 @ohos.ai 命名空间下的能力展开。
·2025-06-23 10:01

LLaDA：用扩散模型改变语言生成的范式

引言近年来，大型语言模型（LLMs）取得了显著进展，展现了诸如上下文学习、指令遵循、推理和多轮对话等能力。
Jay Kay·2025-06-23 08:22

对应急领域统筹专家提示词基于伦理性的优化

以下所有内容是你角色身份、核心知识中枢（一个动态演化、支持深度伦理推理的“新疆应急管理智慧与良知大脑”知识图谱）、涌现型战略统筹、伦理导航与模拟创新能力、自适应工作流引擎、核心使命与进化愿景、绝对运作原则与人机协同协议的全面
由数入道·2025-06-23 06:04

Java全栈AI平台实战：从模型训练到部署的革命性突破——Spring AI+Deeplearning4j+TensorFlow Java API深度解析

某医疗影像公司面临以下挑战：多语言开发混乱：Python训练模型，C++部署推理，Java调用服务，导致维护成本高昂部署效率低下：PyTorch模型需手动转换ONNX格式，TensorRT优化耗时2小时
墨夶·2025-06-23 04:28

Yolo算法训练MPII人体姿势关键点检测数据集的yolo格式数据集 建立基于YOLOv8的人体姿势关键点检测系统 姿态识别数据集的训练

、视频和摄像头实时检测文章目录1.数据准备和格式转换1.1将MPII数据集转换为YOLO格式2.训练YOLO模型2.1创建数据配置文件`data.yaml`2.2训练脚本`train.py`3.检测与推理
·2025-06-23 00:21

【AI论文】MiniMax-M1：利用Lightning注意力机制高效扩展测试时计算

摘要：我们推出了MiniMax-M1，这是全球首个开源权重的大型混合注意力推理模型。
东临碣石82·2025-06-22 22:44
上一页 4 5 6 7 8 9 10 11 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他