LLM技术汇总

【三桥君】MCP中台，究竟如何实现多模型、多渠道、多环境的统一管控？如何以MCP为核心设计AI应用架构？

你好，我是✨三桥君✨本文介绍>>一、引言随着人工智能技术的快速发展，越来越多的企业开始引入大语言模型（LLM）以提升用户体验和运营效率。然而，如何高效、稳定地将这些AI能力落地到生产环境呢？

三桥君·2025-07-29 21:00

VideoChat：开源的数字人实时对话系统，支持自定义数字人的形象和音色

VideoChat支持ASR-LLM-T

蚝油菜花·2025-07-29 09:36

使用中转API在Python中调用大型语言模型 (LLM) 的实践**

**在人工智能技术中，大型语言模型(LLM)已成为自然语言处理(NLP)和生成任务的重要工具。然而，由于网络限制，直接访问OpenAI的API在中国可能面临挑战。

qq_37836323·2025-07-29 06:10

大模型【进阶】（四）QWen模型架构的解读

一、Qwen大模型的背景Qwen（通义千问）是阿里巴巴云开发的大型语言模型（LLM）和多模态模型系列，旨在提供强大的自然语言理解、文本生成、图像理解、音频处理及工具使用能力。

ReinaXue·2025-07-29 05:01

AI+MCP智能研判系统架构

AI+MCP智能研判系统架构1.系统概述1.1核心理念AI+MCP智能研判系统是一个创新的网络安全分析平台，通过将大语言模型（LLM）的智能理解能力与MCP（ModelContextProtocol）协议的标准化工具调用能力相结合

·2025-07-29 03:24

优化提示内容生成技术框架：提示工程架构师的坚实后盾

优化提示内容生成技术框架：提示工程架构师的坚实后盾引言背景：大语言模型时代的“提示瓶颈”当GPT-4、Claude3、Gemini等大语言模型（LLM）的参数规模突破万亿、上下文窗口扩展至百万token

·2025-07-29 03:50

从0搭建到持续优化：提示工程架构师的评估体系迭代全流程

随着大语言模型(LLM)能力的不断增强，提示工程架构师(PromptEngineeringArchitect)作为一个新兴职业应运而生，成为连接业务需求与AI能力的关键桥梁。为什么提示工

·2025-07-29 01:33

！LangChain代理决策架构与源码深度剖析(75)

LangChain代理决策架构与源码深度剖析一、LangChain代理决策架构概述1.1代理决策架构的核心组件LangChain代理的决策架构是其智能交互的核心，主要由大语言模型（LLM）、工具集（Tools

·2025-07-29 01:30

Crome：因果鲁棒奖励建模框架——破解LLM对齐中的奖励黑客难题

Crome（CausalRobustRewardModeling）是由GoogleDeepMind联合麦吉尔大学和魁北克人工智能研究所（MILA）于2025年提出的创新框架，旨在解决大语言模型（LLM）

大千AI助手·2025-07-29 00:52

【大模型LLM学习】function call/agent学习记录

【大模型LLM学习】functioncall/agent学习记录0前言1langchain实现functioncall2调用本地模型3微调本地模型3.1few-shot调用Claude生成Q-A对3.2tools

威化饼的一隅·2025-07-28 20:59

提示工程监控不到位：5个未做日志记录导致的排查困难

提示工程监控不到位：5个未做日志记录导致的排查困难关键词：提示工程,日志记录,LLM应用调试,AI监控,排查困难,提示模板,上下文追踪摘要：在大语言模型(LLM)应用爆发的时代，提示工程已成为连接人类需求与

·2025-07-28 20:56

提示工程中的上下文窗口优化：架构师提升模型记忆的关键

提示工程中的上下文窗口优化：架构师提升模型记忆的关键策略与实践指南关键词：上下文窗口管理、提示工程架构、大型语言模型优化、注意力机制效率、长序列处理、记忆增强技术、动态上下文规划摘要：在大型语言模型(LLM

AI实战架构笔记·2025-07-28 19:20

「实战指南」使用 Python 调用大模型（LLM）

目录前言1.原生HTTP请求方式1.1核心特点1.2关键代码分析1.3优势和适用场景1.4完整代码2.封装式API调用2.1核心特点2.2关键代码分析2.3优势和适用场景2.4完整代码3.OpenAISDK方式3.1核心特点3.2关键代码分析3.3优势和适用场景3.4完整代码4.传统OpenAI库方式4.1核心特点4.2关键代码分析4.3优势和适用场景4.4完整代码5.对比分析总结前言随着大语言模

用什么都重名·2025-07-28 19:47

实践篇：构建基于LLM与本地Pandas的混合式数据分析引擎

在上一篇《思路探索：当大型语言模型遇见数据分析的现实挑战》中，我们阐述了团队确立的技术路线：利用大型语言模型（LLM）作为自然语言到代码的“翻译器”，并结合PythonPandas库作为后端的高性能“计算核心

超人阿亚·2025-07-28 19:47

2024智能交通趋势：提示工程架构师用AI提示词引领技术变革

当大语言模型(LLM)成为通用人工

AIGC应用创新大全·2025-07-28 18:41

Java中的模型API、RAG与向量数据库：构建智能应用的新范式

一、模型API：Java中的AI能力接入1.1什么是模型API模型API是大型语言模型(LLM)提供的编程接口，允许开发者通过HTTP请求与AI模型交互。在Java生态中，我们可以通过多种

张道宁·2025-07-28 15:23

大模型 MCP：开启 AI 与现实世界的无缝交互革命

MCP（ModelContextProtocol，模型上下文协议）是由Anthropic推出的开源协议，旨在实现大型语言模型（LLM）与外部数据源和工具的无缝集成，用来在

u013250861·2025-07-28 12:58

揭秘Transformer架构：残差流与隐藏层的关系

在Transformer架构的LLM中，“残差流”（residualstream）和“隐藏层”（hiddenlayers）是密切相关但不同的概念，前者是层间流动的核心数据，后者是处理这些数据的结构单元。

ZhangJiQun&MXP·2025-07-28 12:57

神经架构搜索革命：从动态搜索到高性能LLM的蜕变之路

本文将揭示如何通过神经架构搜索技术（NAS）自动发现最优网络结构，并将搜索结果转化为新一代高性能大型语言模型的核心技术。我们的实验证明，该方法在同等计算资源下可实现80%的性能飞跃！第一部分：神经架构搜索引擎的实现奥秘1.动态操作熔炉架构classMaxStateSuper(nn.Module):def__init__(self,dim_size,heads):#定义5种候选操作self.ops=

·2025-07-28 04:02

大模型服务架构设计与性能优化指南

随着大语言模型（LLM）的快速发展，模型服务架构面临着性能、可扩展性和成本的多重挑战。

陈乔布斯·2025-07-27 23:22

Dify 本地化部署深度解析与实战指南

Dify本地化部署深度解析与实战指南引言Dify是一个开源的低代码/无代码AI应用开发平台，旨在帮助用户快速构建和部署基于大型语言模型（LLM）和自主代理的AI应用。

逻极·2025-07-27 22:43

LLM微调训练指南

模型选择策略开源LLM的选择需综合评估任务需求与资源限制：LLaMA-2（7B/13B/70B）：商用友好，推荐使用HuggingFace格式的社区变体（如NousResearch版本）Mistral（

小小怪 @·2025-07-27 21:07

AI应用 | 【AI+工业】LLM（大型语言模型）在工业领域中的十个应用

随着时间的推移，LLM（大型语言模型）的特性和能力逐渐为人们所熟知。它们展现了无与伦比的人类语言理解、出色的文本生成能力以及友好的对话指令跟随倾向。

我爱学大模型·2025-07-27 17:39

大语言模型 LLM 通过 Excel 知识库增强日志分析，根因分析能力的技术方案（1）：总体介绍

开源轻量级方案5.数字孪生联合验证（实验性）6.知识图谱增强（Neo4j）7.监控与持续优化（CometLLM）8.实施路线图（4~10周）9.典型案例速览10.一键复现仓库11.参考文献1.核心目标让LLM

shiter·2025-07-27 16:05

RAG面试内容整理-1. 检索增强生成（RAG）概述与意义

传统的大型预训练语言模型（LLM）容易受到训练语料限制，面对超出其知识范围或需要最新信息的查询时可能产生“幻觉”。

不务正业的猿·2025-07-27 14:18

集成Tavily Search API以提升AI应用的实时检索能力

技术背景介绍在AI开发中，尤其是处理大型语言模型（LLM）时，实时、准确的信息检索至关重要。TavilySearchAPI专为AI代理设计，提供高速、准确和事实性的搜索结果，是一个理想的选择。

dgay_hua·2025-07-27 14:48

Prompt Engineering(提示词工程)基础了解

qq_56438555/article/details/1448865171.基础概念:提示词工程(promptEngineering)是指通过设计、优化输入给大语言模型的文本指令（即“提示词”）,引导LLM

Fuly1024·2025-07-27 13:14

9、LLaMA-Factory项目微调介绍

1、LLaMAFactory介绍 LLaMAFactory是一个在GitHub上开源的项目，该项目给自身的定位是：提供一个易于使用的大语言模型（LLM）微调框架，支持LLaMA、Baichuan、Qwen

Andy_shenzl·2025-07-27 12:07

AI原生应用领域函数调用的团队协作开发模式

AI原生应用领域函数调用的团队协作开发模式：从技术协同到组织进化引言背景：AI原生应用与函数调用的崛起2023年以来，以GPT-4为代表的大语言模型（LLM）推动了AI应用开发的范式转移——AI原生应用

AI算力网络与通信·2025-07-27 12:37

Deja Vu: 利用上下文稀疏性提升大语言模型推理效率

稀疏化是一种自然的降本策略，但现有方法要么需要代价高昂的重新训练，要么必须放弃LLM的“in-contextlearning”能力，要么在现代硬件上无法带来真实的墙钟时间加速。我们提出**上下文稀疏

AI专题精讲·2025-07-27 12:31

Dify Agent 策略深度解析与应用指南

在Dify平台中，Agent(或称智能体助手)指的是一类能够利用大型语言模型(LLM)的推理能力，自主设定目标、拆解复杂任务、调用工具并优化执行流程的AI

源力祁老师·2025-07-27 06:49

Java开发者，用LLM和AI Agent打造你的智能应用：从理论到实践！

摘要你是否认为AIAgent和大型语言模型（LLMs）是Python专属？那你就错了！Java，作为企业级应用开发的主力军，正在以前所未有的速度拥抱AI浪潮。本文将手把手教你如何利用Java生态系统，集成主流LLMs、构建强大的AIAgent，并实现其在生产环境中的部署。我们将深入探讨Java在AIAgent领域的独特优势，并通过实战代码，让你快速掌握如何用Java打造具备自主思考、决策和执行能力

程序猿Mr.wu·2025-07-27 05:35

大语言模型原理与工程实践：RLHF 实战框架

大型语言模型(LLM)的出现,使得人工智能系统能够生成逼真的自然语言输出,从而在多个应用场景中发挥重要作用。1.2大语言模型的挑战然而,训练出高质量的大语言模型并非易事。

AI天才研究院·2025-07-26 18:46

RLHF Workflow: From Reward Modeling to Online RLHF

本文是LLM系列文章，针对《RLHFWorkflow:FromRewardModelingtoOnlineRLHF》的翻译。

UnknownBody·2025-07-26 18:43

想进大厂？LLMs 10道面试题提前看，有问有答，图文详解！

一、微调与优化21、LLM的微调流程是什么?

AI大模型-大飞·2025-07-26 16:58

大模型的安全风险全解：Prompt Injection、信息泄露与幻觉问题

自从ChatGPT点燃LLM的星火，生成式AI就成了工具箱里的瑞士军刀——写文档、写代码、做分析、开玩笑它都行。

代码AI弗森·2025-07-26 15:25

大模型——Prompt 优化还是模型微调

Prompt优化还是模型微调在人工智能飞速发展的当下，大语言模型（LLM）已成为众多领域的关键技术支撑。无论是在智能客服、内容创作，还是数据分析等场景中，LLM都展现出了强大的能力。

·2025-07-26 13:41

【美团3面】大模型面试题详解：大模型使用几十条数据微调后为啥性能差的很多？

大模型（如LLM）在预训练阶段通过海量数据学习，优化出一个“基本能力盆地”（BasicCapacityBasin），这个Basin代表模型具备通用语言理解、生成

AI大模型-王哥·2025-07-26 13:37

LLM面试题详解：拿到大厂Offer

LLM面试题核心架构与基本概念Token化包含哪些内容，为什么它对LLM至关重要？Token化是将文本分解为更小单元（如单词、词的一部分或字符）的过程。

ZhangJiQun&MXP·2025-07-26 13:37

Aipy实战：分析潜在的糖尿病患者

一、背景：Aipy一款集成了LLM+python的垂直性agent，与其他通用型agent不同：首先，Aipy是本地部署，所有信息不用上传云端、本地保存更具隐私性，更新之后，它能够将运行过程也私密储存并且分享给好友

·2025-07-26 12:34

红帽AI推理服务器三大特点

生成式人工智能（GenAI）的迅猛发展，对大型语言模型（LLM）的部署提出了更高的性能、灵活性和效率要求。

openlabx.org.cn·2025-07-26 07:00

大模型就业方向

：优化模型结构、数据比例，实现在各种任务上效果比较好的通用基座模型护城河：出了问题只有你能解决，给足情绪价值经验要求：必备：模型分布式框架（如deepspeed）、多机多卡训练、顶会的经验；阅读一系列LLM

·2025-07-26 07:27

大模型训练全攻略：从数据到部署，小白也能看懂的技术手册

先了解一下基础的概念一、LLM的基本原理LLM的底层逻辑依赖于一个叫Transformer的神经网络架构（2017年由Google提出）

·2025-07-26 04:12

OpenAI开发的一款实验性大型语言模型（LLM），在2025年国际数学奥林匹克竞赛（IMO）中达到了金牌水平

每周跟踪AI热点新闻动向和震撼发展想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！订阅：https://rengongzhineng.io/界最具声望的数学竞赛——国际数学奥林匹克中取得金牌水平的表现。”据介绍，该模型的评估完全

·2025-07-26 04:39

LangGraph篇-人机交互

这在基于LLM的应用中尤其有用，因为基础模型可能会产生偶尔的不准确性。在合规、决策或内容生成等低误差容忍场景中，人类的参与通过允许审查、修正或覆盖模型输出来确保可靠性。

码农Q！·2025-07-26 03:38

“流量波动”下的DeepSeek：东南亚机遇显现，但观望心态未解

关注其近期表现，或许能让我们深入理解中国大语言模型（LLM）存在的机遇和挑战。几个月前，当DeepSeek横空出世、席卷全球时，曾引发行业欢呼雀跃。