(LLM) 第4页

大模型的温度？解读Temperature

LLM温度是一个参数，它控制着LLM预测的下一个单词的概率分布。它通过改变下一个单词被选中的可能性，为LLM的输出增加了一些随机性或多样性。

半吊子全栈工匠·2025-07-11 02:31

大模型服务的推理优化探索

本文尝试讨论将LLM推理服务更改为高吞吐量引擎的挑战与应对方法。1.大模型服务面临的挑战大模型的能力令人惊叹，但其

半吊子全栈工匠·2025-07-11 02:31

人工智能-基础篇-28-模型上下文协议--MCP请求示例（JSON格式，客户端代码，服务端代码等示例）

不过，在某些AI工具链和LLM开发框架中，确实出现了以“MCP”命名的内部通信机制，尤其是在与语言模型代理（LLMAgent）和工具调用接口相关的系统中。

weisian151·2025-07-10 23:42

揭秘12-Factor Agents：打造可靠LLM应用的秘诀

探索12-FactorAgents：构建生产级LLM应用的新范式在AI飞速发展的时代，构建真正能够投入生产使用的大型语言模型（LLM）驱动的软件变得尤为重要。

人工智能我来了·2025-07-10 21:30

【GitHub开源项目实战】LLM-Cookbook 中文大模型工程手册全解析：多场景落地应用与技术优化路径深度实践

GitHub开源实战|LLM-Cookbook中文大模型工程手册全解析：多场景落地应用与技术优化路径深度实践关键词LLM-Cookbook，中文大模型，Datawhale，大模型实战，LangChain

·2025-07-10 21:59

1. RAG 权威指南：从本地实现到生产级优化的全面实践

1.RAG权威指南：从本地实现到生产级优化的全面实践大型语言模型（LLM）的知识受限于其训练数据，这是一个众所周知的痛点。

·2025-07-10 19:22

AI技术正在深度重构全球产业格局，其影响已超越工具属性，演变为推动行业变革的核心引擎。

一、AI如何重塑AI的工作与行业（AI助手领域）能力升级理解与生成：基于LLM（大语言模型），AI能处理开放式问题、撰写报告、翻译代码，替代部分人类知识工作。

·2025-07-10 18:43

[论文阅读] 人工智能 + 软件工程 | 当 LLM 写代码时，它的 “思考过程” 靠谱吗？—— 揭秘 CoT 质量的那些事儿

当LLM写代码时，它的“思考过程”靠谱吗？——揭秘CoT质量的那些事儿论文标题：AreTheyAllGood?

张较瘦_·2025-07-10 18:42

从零开始：构建支持上下文窗口的AI原生应用实战指南

从零开始：构建支持上下文窗口的AI原生应用实战指南关键词：大语言模型（LLM）、上下文窗口、AI原生应用、token管理、对话状态保持、向量检索、记忆压缩摘要：本文从AI原生应用的核心需求出发，系统讲解支持上下文窗口的应用构建全流程

AI天才研究院·2025-07-10 15:49

深入剖析开源AI阅读器项目Saga Reader基于大模型的文本转换与富文本渲染优化方案

本文将介绍SagaReader项目中如何利用大型语言模型(LLM)进行网页内容抓取、智能优化和富文本渲染，特别是如何通过精心设计的提示词(prompt)引导LLM生成样式丰富的HTML内容，提升用户阅读体验

魑魅丶小鬼·2025-07-10 14:44

实操 SpringBoot+MCP！

引言随着人工智能的飞速发展，大语言模型(LLM)正在革命性地重塑用户与软件的交互范式。

清风孤客·2025-07-10 14:13

构建你的AI应用开发平台：如何在Ubuntu上使用Docker部署Dify

Dify是一款开源的大语言模型(LLM)应用开发平台。它融合了后

kaixin_啊啊·2025-07-10 12:57

vLLM 优化与调优：提升模型性能的关键策略

在当今人工智能领域，大语言模型（LLM）的应用日益广泛，而优化和调优这些模型的性能成为了至关重要的任务。vLLM作为一种高效的推理引擎，提供了多种策略来提升模型的性能。

强哥之神·2025-07-10 11:51

如何让AI真正理解你的意图（自适应Prompt实战指南）

目前的LLM模型，在理解用户意图方面，正在使用自适应Prompt技术，来提升模型的理解能力。目前使用deepseek推理模型能明显看到自适应的一个过程。前言：为什么你的AI总是"答非所问"？

nine是个工程师·2025-07-10 08:33

上下文工程：AI 智能体架构落地的关键新技术

摘要随着大语言模型（LLM）驱动的智能体（Agent）逐渐成为下一代人机交互的核心范式，上下文管理已成为决定智能体性能与可靠性的关键瓶颈。

一休哥助手·2025-07-10 08:32

Cursor这类编程Agent软件的模型架构与工作流程

模型架构与工作流程大语言模型（LLM）核心编程Agent的核心是一个强大的大语言模型，负责理解用户意图并生成相应的代码和解决方案。

nine是个工程师·2025-07-10 07:31

从零构建MCP服务器：FastMCP实战指南

引言：MCP协议与FastMCP框架ModelContextProtocol（MCP）是连接AI模型与外部服务的标准化协议，允许LLM（如Claude、Gemini）调用工具、访问数据。

炼丹上岸·2025-07-10 06:55

RAG实战指南 Day 11：文本分块策略与最佳实践

本文深入解析5种主流分块技术：1)固定大小分块的实现与调优技巧；2)基于语义的递归分割算法；3)文档结构感知的分块策略；4)LLM增强的智能分块方法；5)多模态混合内容处理方案。通过电商知识库和科

在未来等你·2025-07-09 22:01

【华为昇腾|CUDA】服务器A6000显卡部署LLM实战记录

安装驱动https://www.nvidia.cn/drivers/lookup/搜索对应gpu的kylin版本即可先使用wget下载rpm包rpm-i安装最后使用dnfinstallnvidia-driver即可上面安装的是驱动仓库安装CUDAkylin服务器参考配置同上，先wget，后rpm-i，最后dnfinstallcuda即可安装Ollamaollama官方提供aarch64docker

刘阿宾·2025-07-09 22:59

huggingface笔记：文本生成Text generation

1加载LLM模型fromtransformersimportAutoTokenizer,AutoModelForCausalLMimporttorchimportosmodel=AutoModelForCausalLM.from_pretrained

UQI-LIUWJ·2025-07-09 21:23

论文略读：ASurvey of Large Language Models for Graphs

graph+大模型GNNsasPrefixLLMsasPrefixLLMs-GraphsIntegrationLLMs-Only1GNNsasPrefix1.1节点级Token化将图结构中的每个节点单独输入到LLM

UQI-LIUWJ·2025-07-09 21:23

揭秘图像LLM：从像素到语言的智能转换

图像LLM是怎么工作图像LLM（多模态大语言模型）的核心是将图像转化为语言模型能理解的“语言”，并与文本深度融合。

ZhangJiQun&MXP·2025-07-09 21:52

！LangChain自定义代理开发深度解析(44)

它通过以下核心机制实现智能交互：工具调用：代理可调用外部工具（如搜索引擎、计算器等）获取实时信息对话历史管理：维护多轮对话上下文，支持状态追踪决策逻辑：基于LLM生成决策，判断是否需要调用工具或直接回答

Android 小码蜂·2025-07-09 21:52

！LangChain链的调试与故障排查深度解析(30)

这些组件包括LLM（大语言模型）、PromptTemplate（提示模板）、Chain（链）、Agent（智能体）等。LLM负责生成文本，PromptTemplate用于构建结构化提示，Cha

Android 小码蜂·2025-07-09 21:21

LangChain提示词设计核心原则深度解析(9)

LangChain提示词设计核心原则深度解析一、LangChain提示词设计概述1.1提示词在LangChain中的定位在LangChain框架中，提示词是连接用户需求与大语言模型（LLM）能力的关键桥梁

Android 小码蜂·2025-07-09 21:20

AI原生应用开发：LLM的异常检测与处理

AI原生应用开发：LLM的异常检测与处理关键词：大语言模型（LLM）、异常检测、AI原生应用、错误处理、提示工程摘要：在AI原生应用中，大语言模型（LLM）已成为核心“大脑”，但它的“不靠谱”行为（如虚构事实

SuperAGI2025·2025-07-09 20:18

一文看尽LLM对齐技术：RLHF、RLAIF、PPO、DPO……

Python算法实战·2025-07-09 20:48

LLM（大语言模型）能识别图像的核心原因:图像和文本记性特征识别且对其

LLM（大语言模型）能识别图像的核心原因:图像和文本记性特征识别且对其在于跨模态对齐技术——通过训练将图像和文本映射到同一语义空间，使语言模型能够理解视觉信息。一、为什么LLM能识别图像？

ZhangJiQun&MXP·2025-07-09 20:17

人工智能-基础篇-18-什么是RAG(检索增强生成：知识库+向量化技术+大语言模型LLM整合的技术框架)

RAG（Retrieval-AugmentedGeneration，检索增强生成）是一种结合外部知识检索与大语言模型（LLM）生成能力的技术框架，旨在提升生成式AI在问答、内容创作等任务中的准确性、实时性和领域适应性

weisian151·2025-07-09 20:47

[论文阅读] 人工智能 + 软件工程 | 需求获取访谈中LLM生成跟进问题研究：来龙去脉与创新突破

需求获取访谈中LLM生成跟进问题研究：来龙去脉与创新突破论文标题：RequirementsElicitationFollow-UpQuestionGenerationarXiv:2507.02858RequirementsElicitationFollow-UpQuestionGenerationYuchenShen

·2025-07-09 20:47

魔都AI医疗哪家强？全景揭秘科技创新与未来钱景！

这些公司利用深度学习、大语言模型（LLM）和计算机视觉等技术，革新药物发现、医疗影像分析和数据治理，推动医疗行业的智能化转型。

·2025-07-09 16:53

LLM探索的时代

每周跟踪AI热点新闻动向和震撼发展想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！订阅：https://rengongzhineng.io/当前的大语言模型，是过去三十年人类在互联网上自由发布海量文本内容的意外副产品。IlyaS

新加坡内哥谈技术·2025-07-09 13:35

Gemma Chatbot 架构深度剖析：从 C++ 核心到多语言推理的工程实践

GemmaChatbot架构深度剖析：从C++核心到多语言推理的工程实践随着大语言模型（LLM）本地化需求日益提升，如何设计一套高效、可扩展、易于维护的本地聊天系统。

雷羿 LexChien·2025-07-09 11:18

当争论者还在讨论AI的边界，实践者早已用这些技术解决实际问题

——普通人参与AI革命的关键路径一、AI应用五大核心组件（通俗拆解版）1️⃣LLM：AI的「决策核心」本质：大型语言模型（如DeepSeek、通义千问），具备语言理解与生成能力能力边界：✅处理文本类任务

渡难繁辰·2025-07-09 07:47

【深度学习】大模型GLM-4-9B Chat ，微调与部署(3) TensorRT-LLM、TensorRT量化加速、Triton部署

文章目录获取TensorRT-LLM代码：构建docker镜像并安装TensorRT-LLM：运行docker镜像：安装依赖魔改下部分package代码：量化：构建图：全局参数插件配置常用配置参数测试推理是否可以代码推理

XD742971636·2025-07-09 06:40

Jetson Orin NX Super安装TensorRT-LLM

根据图片中显示的JetsonOrinNXSuper系统环境（JetPack6.2+CUDA12.6+TensorRT10.7），以下是针对该平台的TensorRT-LLM安装优化方案：一、环境适配调整基于你的实际配置

u013250861·2025-07-09 05:37

TensorRT-LLM：大模型推理加速引擎的架构与实践

一、TensorRT-LLM介绍：TensorRT-LLM是

·2025-07-09 05:03

【LLM】Llama-Index 架构

数据源（DataSources）PDF/文档数据库API网页音频/视频知识库自定义源数据连接器（DataConnectors）用于从各种数据源提取和加载数据，以便进行索引和查询。1.SimpleDirectoryReader含义：简单目录读取器。功能：主要用于读取本地文件系统中的目录内容。它可以列出目录中的文件和子目录，通常用于文件管理或数据预处理阶段。例如，在一个数据处理项目中，你可能需要列出某

FOUR_A·2025-07-09 02:46

MCP客户端请求MCP服务器资源的Python SDK实现

MCP客户端请求MCP服务器资源的PythonSDK实现核心概念ModelContextProtocol(MCP)是一个标准化协议，允许应用程序以标准化的方式为大语言模型(LLM)提供上下文，将提供上下文的关注点与实际的

AI天才研究院·2025-07-09 01:11

人工智能LLM | 基础配置 | 通过环境变量配置API-KEY 一文通教程

在实战开发大语言模型的过程中，经常会遇到各种API-KEY的配置问题，例如GPTOpenAIKEY的配置，而且目前大部分都要求将其配置在环境变量中，下面将会讲解如何在Linux、macOS、Windows中配置，本文一文通教程。您可以使用配置环境变量的方法，避免在调用各种SDK时显式地配置API-KEY，从而降低泄漏风险。环境变量是操作系统中用于存储有关系统环境的信息的变量。您可以通过环境变量来配

H-大叔·2025-07-09 00:07

「论文导读」LLM高效推理与模型量化

学术背景：随着大型语言模型（LLM）如GPT-3的

雷羿 LexChien·2025-07-09 00:01

【深度学习新浪潮】什么是上下文长度？

大型语言模型（LLM）的上下文长度是指模型在处理当前输入时能够有效利用的历史文本长度，通常以token（如单词、子词或标点）为单位衡量。

小米玄戒Andrew·2025-07-08 22:50

大模型开源与国产化突围：技术路径与产业机遇深度解析

引言：大模型时代的双轨竞速2023年全球大语言模型（LLM）参数量突破万亿级，GPT-4、LLaMA等模型引领技术浪潮。中国在这场竞赛中面临双重命题：既要融入全球开源生态，又要构建自主可控的技术体系。

梦玄海·2025-07-08 21:13

Prompt相关论文阅读(02)--Auto-CoT(2024-11-25)

AutomaticChainofThoughtPromptinginLargeLanguageModels(ICLR2023)碎碎念：复现代码和笔记保存到gitee仓库上海交通大学的学生在亚马逊实习的时候的成果ICLR2023摘要：LLM

zhilanguifang·2025-07-08 20:12

多角色AI Agent：基于LLM的虚拟角色扮演系统

多角色AIAgent：基于LLM的虚拟角色扮演系统关键词多角色AIAgentLargeLanguageModel(LLM)虚拟角色扮演系统人工智能自然语言处理程序设计摘要本文旨在探讨多角色AIAgent

AI天才研究院·2025-07-08 18:54

FastMCP：用于构建MCP服务器的开源Python框架

在人工智能领域，模型上下文协议（ModelContextProtocol，简称MCP）作为一种标准化的协议，为大型语言模型（LLM）提供了丰富的上下文和工具支持。

NetX行者·2025-07-08 17:52

ReAct (Reason and Act) OR 强化学习（Reinforcement Learning, RL）

ReAct的方式（像一位经验丰富的活动策划师）你是一位知识渊博的专家（大语言模型LLM）。你首先会思考

SugarPPig·2025-07-08 16:44

大语言模型与增强现实：空间计算时代的AI原生应用

大语言模型与增强现实：空间计算时代的AI原生应用关键词：大语言模型（LLM）、增强现实（AR）、空间计算、AI原生应用、多模态交互、具身智能、虚实融合摘要：当“能对话的AI大脑”（大语言模型）遇到“能叠加虚拟世界的魔法眼镜

Agentic AI人工智能与大数据·2025-07-08 09:50

大语言模型的具身化——LLM-based Agents实战

1.概述1.1Agent是什么长期以来，研究者们一直在追求与人类相当、乃至超越人类水平的通用人工智能（ArtificialGeneralIntelligence，AGI）。早在1950年代，AlanTuring就将「智能」的概念扩展到了人工实体，并提出了著名的图灵测试。这些人工智能实体通常被称为——代理（Agent）。「代理」这一概念起源于哲学，描述了一种拥有欲望、信念、意图以及采取行动能力的实体

apollowin123·2025-07-08 08:14

语言大模型综述

Paper:ASurveyofLargelanguageModels目录Paper:ASurveyofLargelanguageModels综述概要LLM关键技术规模定律（ScalingLaws）预训练与微调对齐调优

·2025-07-08 07:37

推荐频道

(LLM)