LLM笔记第23页

LLM探索的时代

每周跟踪AI热点新闻动向和震撼发展想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！订阅：https://rengongzhineng.io/当前的大语言模型，是过去三十年人类在互联网上自由发布海量文本内容的意外副产品。IlyaS

新加坡内哥谈技术·2025-07-09 13:35

Gemma Chatbot 架构深度剖析：从 C++ 核心到多语言推理的工程实践

GemmaChatbot架构深度剖析：从C++核心到多语言推理的工程实践随着大语言模型（LLM）本地化需求日益提升，如何设计一套高效、可扩展、易于维护的本地聊天系统。

雷羿 LexChien·2025-07-09 11:18

OpenHarmony实战—— 自定义构建函数：@Builder装饰器

我命油我不有天·2025-07-09 11:16

Flow 数据流学习-冷流和热流

文章参考的Kotlin学习笔记（五）——Flow数据流学习实践指北（一）-掘金Kotlin系列之认识一下Flow-掘金冷流（ColdFlow）：在数据被使用方订阅后，即调用collect方法之后，提供方才开始执行发送数据流的代码

qq_39844788·2025-07-09 10:44

C语言核心探秘：深入理解文件指针、stdin、stdout与stderr

今天，就让我们一起根据课堂的精华笔记，揭开文件指针的神秘面纱，并深入了

web安全工具库·2025-07-09 10:39

React基础笔记---小黑是小白

react学习前置准备学习网站网址种类React中文React中文文档文档ReactRouterReactRouter6中文文档路由ReactRouterReactRouter路由zustandzustand状态管理TanStackQueryTanStackQuery中文文档请求管理，路由reduxRTK状态管理，请求管理FetchFetch-MDN请求fontawesome图标fontaweso

小黑是小白·2025-07-09 09:02

MapReduce学习笔记

1.MapReduce做什么Mapper负责“分”，即把复杂的任务分解为若干个“简单的任务”来处理。Reducer负责对map阶段的结果进行汇总。2.MapReduce工作机制实体一：客户端，用来提交MapReduce作业。实体二：JobTracker，用来协调作业的运行。实体三：TaskTracker，用来处理作业划分后的任务。实体四：HDFS，用来在其它实体间共享作业文件。3.编写MapRed

·2025-07-09 07:23

uni-app学习笔记二十一--pages.json中tabBar设置底部菜单项和图标

如果应用是一个多tab应用，可以通过tabBar配置项指定一级导航栏，以及tab切换时显示的对应页。在pages.json中提供tabBar配置，不仅仅是为了方便快速开发导航，更重要的是在App和小程序端提升性能。在这两个平台，底层原生引擎在启动时无需等待js引擎初始化，即可直接读取pages.json中配置的tabBar信息，渲染原生tab。Tips当设置position为top时，将不会显示i

moxiaoran5753·2025-07-09 07:20

当争论者还在讨论AI的边界，实践者早已用这些技术解决实际问题

——普通人参与AI革命的关键路径一、AI应用五大核心组件（通俗拆解版）1️⃣LLM：AI的「决策核心」本质：大型语言模型（如DeepSeek、通义千问），具备语言理解与生成能力能力边界：✅处理文本类任务

渡难繁辰·2025-07-09 07:47

C# 学习笔记-多线程操作、异常排除

多线程操作、异常排除1.异常解决1.1关于创建调用提示非单线程的问题2.关于无法捕获的异常2.1AccessViolationException异常1.异常解决1.1关于创建调用提示非单线程的问题调试过程中，创建多线程调用Excel时提示：在可以调用OLE之前，必须将当前线程设置为单线程单元(STA)模式。请确保您的Main函数带有STAThreadAttribute标记解决方法是，设置线程属性为

鱼听禅·2025-07-09 06:45

【深度学习】大模型GLM-4-9B Chat ，微调与部署(3) TensorRT-LLM、TensorRT量化加速、Triton部署

文章目录获取TensorRT-LLM代码：构建docker镜像并安装TensorRT-LLM：运行docker镜像：安装依赖魔改下部分package代码：量化：构建图：全局参数插件配置常用配置参数测试推理是否可以代码推理

XD742971636·2025-07-09 06:40

算法学习领域的宝藏

labuladong的算法笔记仓库是算法学习领域的宝藏项目，它围绕LeetCode题目，以培养算法思维为核心，提供丰富学习资源与多种实用工具，助力学习者提升算法能力。

wylee·2025-07-09 06:39

Jetson Orin NX Super安装TensorRT-LLM

根据图片中显示的JetsonOrinNXSuper系统环境（JetPack6.2+CUDA12.6+TensorRT10.7），以下是针对该平台的TensorRT-LLM安装优化方案：一、环境适配调整基于你的实际配置

u013250861·2025-07-09 05:37

TensorRT-LLM：大模型推理加速引擎的架构与实践

一、TensorRT-LLM介绍：TensorRT-LLM是

·2025-07-09 05:03

Docker 和 Kubernetes 入门到精通：运维工程师的实战笔记 (近5万字)

文章目录1.Docker1.1Docker是什么？1.1.1容器服务原理1.2Docker的三大概念1.2.1镜像1.2.2容器1.2.3仓库1.2.4总结1.3Docker常用命令1.3.1镜像常用命令1.3.2容器常用命令1.4Dockerfile1.4.1commit的局限1.4.2Dockerfile是什么？1.4.3如何使用Dockerfile制作镜像?1.4.4Dockerfile中常

运维小贺·2025-07-09 03:49

【LLM】Llama-Index 架构

数据源（DataSources）PDF/文档数据库API网页音频/视频知识库自定义源数据连接器（DataConnectors）用于从各种数据源提取和加载数据，以便进行索引和查询。1.SimpleDirectoryReader含义：简单目录读取器。功能：主要用于读取本地文件系统中的目录内容。它可以列出目录中的文件和子目录，通常用于文件管理或数据预处理阶段。例如，在一个数据处理项目中，你可能需要列出某

FOUR_A·2025-07-09 02:46

Flutter-完整开发实战详解(一、Dart-语言和-Flutter-基础)

2401_85122662·2025-07-09 01:43

MCP客户端请求MCP服务器资源的Python SDK实现

MCP客户端请求MCP服务器资源的PythonSDK实现核心概念ModelContextProtocol(MCP)是一个标准化协议，允许应用程序以标准化的方式为大语言模型(LLM)提供上下文，将提供上下文的关注点与实际的

AI天才研究院·2025-07-09 01:11

人工智能LLM | 基础配置 | 通过环境变量配置API-KEY 一文通教程

在实战开发大语言模型的过程中，经常会遇到各种API-KEY的配置问题，例如GPTOpenAIKEY的配置，而且目前大部分都要求将其配置在环境变量中，下面将会讲解如何在Linux、macOS、Windows中配置，本文一文通教程。您可以使用配置环境变量的方法，避免在调用各种SDK时显式地配置API-KEY，从而降低泄漏风险。环境变量是操作系统中用于存储有关系统环境的信息的变量。您可以通过环境变量来配

H-大叔·2025-07-09 00:07

《移动App测试实战》读书笔记

最近看完了《移动App测试实战》，这里做一点笔记，后面可以重温。

xh15·2025-07-09 00:02

「论文导读」LLM高效推理与模型量化

学术背景：随着大型语言模型（LLM）如GPT-3的

雷羿 LexChien·2025-07-09 00:01

学习笔记：oracle online系列：oracle：Per-Process PGA memory limit

我们的文章会在微信公众号IT民工的龙马人生和博客网站(www.htz.pw)同步更新，欢迎关注收藏，也欢迎大家转载，但是请在文章开始地方标注文章出处，谢谢！由于博客中有大量代码，通过页面浏览效果更佳。本文转自朋友的真实案例分享。oracleonline系列：oracle：Per-ProcessPGAmemorylimit前几日，东区某客户的19crac出现了ORA-04030，从报错的trace来

认真就输DBA·2025-07-08 22:24

【深度学习新浪潮】什么是上下文长度？

大型语言模型（LLM）的上下文长度是指模型在处理当前输入时能够有效利用的历史文本长度，通常以token（如单词、子词或标点）为单位衡量。

小米玄戒Andrew·2025-07-08 22:50

【OD机试题解法笔记】连续出牌数量

题目描述有这么一款单人卡牌游戏，牌面由颜色和数字组成，颜色为红、黄、蓝、绿中的一种，数字为0-9中的一个。游戏开始时玩家从手牌中选取一张卡牌打出，接下来如果玩家手中有和他上一次打出的手牌颜色或者数字相同的手牌，他可以继续将该手牌打出，直至手牌打光或者没有符合条件可以继续打出的手牌。现给定一副手牌，请找到最优的出牌策略，使打出的手牌最多。输入描述输入为两行，第一行是每张手牌的数字，数字由空格分隔，第

xuwzen·2025-07-08 21:47

大模型开源与国产化突围：技术路径与产业机遇深度解析

引言：大模型时代的双轨竞速2023年全球大语言模型（LLM）参数量突破万亿级，GPT-4、LLaMA等模型引领技术浪潮。中国在这场竞赛中面临双重命题：既要融入全球开源生态，又要构建自主可控的技术体系。

梦玄海·2025-07-08 21:13

Prompt相关论文阅读(02)--Auto-CoT(2024-11-25)

论文阅读笔记2024-11-24~2024-11-25Auto-CoT:AutomaticChainofThoughtPromptinginLargeLanguageModels(ICLR2023)碎碎念

zhilanguifang·2025-07-08 20:12

机器学习知识点复习上（保研、复试、面试）百面机器学习笔记

机器学习知识点复习上一、特征工程1.为什么需要对数值类型的特征做归一化？2.文本表示模型3.图像数据不足的处理方法二、模型评估1.常见的评估指标2.ROC曲线3.为什么在一些场景中要使用余弦相似度而不是欧氏距离？4.过拟合和欠拟合三、经典算法1.支持向量机SVM2.逻辑回归3.决策树四、降维1.主成分分析（PrinalComponentsAnalysis,PCA）降维中最经典的方法2.线性判别分析

·2025-07-08 20:36

Docker技术笔记-从零开始的容器技术之旅

理论一、容器技术简介容器是一种轻量级、可移植、隔离的软件环境，通过操作系统级虚拟化实现资源隔离,确保应用程序在不同环境中能够保持一致运行。容器和虚拟机对比对比维度容器(Docker)虚拟机(VM、KVM)架构原理共享宿主机内核,通过命名空间(Namespaces)和控制组(Cgroups)实现资源隔离。通过Hypervisor虚拟化硬件资源,每个VM运行独立完整的操作系统(GuestOS)。资源消

青竹易寒·2025-07-08 19:05

C 语言:20250708笔记

内容提要C语言概述数据类型常量变量C语言概述计算机基础计算机的组成计算机组成计算机：能进行计算以及逻辑处理的设备硬件：组成计算机的物理部件。（内存条、CPU、硬盘..）开发中对于硬件的认知：硬件包括电子设备、单片机、集成电路和嵌入式系统。软件：计算机中运行的程序和数据。开发中对于软件的认知：软件分为系统软件（OS）、应用软件和编程工具（编译器）计算机的六大部件中央处理器（CPU）：控制+计算内存：

遇见尚硅谷·2025-07-08 19:04

12.Java SDK源码分析系列笔记-PriorityQueue

文章目录1.PriorityQueue是什么2.使用3.源码分析3.1.属性3.2.有参构造3.2.1.初始化元素到数组中3.2.2.维护堆的属性3.2.2.1.下沉操作3.3.插入3.3.1.上浮操作3.4.删除3.4.1.下沉操作4.参考1.PriorityQueue是什么是一个队列，只不过加上了优先级的概念，换句话说队列里的元素是根据某种规则排好序的2.使用publicclassPriori

Thinker QAQ·2025-07-08 19:01

多角色AI Agent：基于LLM的虚拟角色扮演系统

多角色AIAgent：基于LLM的虚拟角色扮演系统关键词多角色AIAgentLargeLanguageModel(LLM)虚拟角色扮演系统人工智能自然语言处理程序设计摘要本文旨在探讨多角色AIAgent

AI天才研究院·2025-07-08 18:54

FastMCP：用于构建MCP服务器的开源Python框架

在人工智能领域，模型上下文协议（ModelContextProtocol，简称MCP）作为一种标准化的协议，为大型语言模型（LLM）提供了丰富的上下文和工具支持。

NetX行者·2025-07-08 17:52

DPDK探测设备并初始化

本文整理下之前的学习笔记，基于DPDK17.11版本源码分析。主要看一下DPDK探测网卡设备，并进行初始化的流程，用到了类似kernel中的总线-设备-驱动模型。

分享放大价值·2025-07-08 17:51

Python学习打卡：day09

day9笔记来源于：黑马程序员python教程，8天python从入门到精通，学python看这套就够了目录day964、字典课后习题65、5类数据容器的总结对比数据容器分类数据容器特点对比66、数据容器的通用操作遍历统计

胜天半子祁厅·2025-07-08 17:46

Python学习打卡：day02

day2笔记来源于：黑马程序员python教程，8天python从入门到精通，学python看这套就够了目录day28、字符串的三种定义方式字符串在Python中有多种定义形式字符串的引号嵌套9、字符串的拼接

·2025-07-08 17:16

ReAct (Reason and Act) OR 强化学习（Reinforcement Learning, RL）

ReAct的方式（像一位经验丰富的活动策划师）你是一位知识渊博的专家（大语言模型LLM）。你首先会思考

SugarPPig·2025-07-08 16:44

【文献精读笔记】Explainability for Large Language Models: A Survey （大语言模型的可解释性综述）（五）

****非斜体正文为原文献内容（也包含笔者的补充），灰色块中是对文章细节的进一步详细解释！五、解释评估（ExplanationEvaluation）在前面的章节中，我们介绍了不同的解释技术和它们的用途，但评估它们如何忠实地反映模型的推理过程仍然是一个挑战。我们将评估大致分为两类：传统微调范式的局部解释评估（第5.1节）和提示范式中自然语言CoT解释的评估（第5.2节）。评估的两个关键维度是对人类的

百万年薪天才少女·2025-07-08 16:11

CS:APP读书笔记--信息的表示和处理

信息的存储和表示字节端序在内存中按照从最低到最高有效字节的顺序存储对象，这种最低有效字节在最前面的方式，称为小端法。在内存中按照从最高到最低有效字节的顺序存储对象，这种最高有效字节在最前面的方式，称为大端法。例如：对于int32类型变量，其存储地址位于0x100，其十六进制值为0x12345678，其地址范围为ox100~0x103：//大端法地址：0x1000x1010x1020x1031234

你都会上树？·2025-07-08 16:41

Gin 框架中的优雅退出

本文将基于你的笔记，深入探讨Gin框架中如何实现优雅退出，并解释其定义、重要性以及具体的实现方法。一、优雅退出的定义和重要性1.1什么是“优雅退出”？

Code季风·2025-07-08 15:32

单发多框检测（SSD）-笔记&练习（PyTorch）

以下内容为结合李沐老师的课程和教材补充的学习笔记，以及对课后练习的一些思考，自留回顾，也供同学之人交流参考。

scdifsn·2025-07-08 13:22

动手学深度学习3.3线性回归的简洁实现-笔记&练习（PyTorch）

以下内容为结合李沐老师的课程和教材补充的学习笔记，以及对课后练习的一些思考，自留回顾，也供同学之人交流参考。

scdifsn·2025-07-08 13:22

Python学习笔记2-垃圾回收机制

Python的垃圾回收机制是自动管理内存的系统，用于回收不再使用的内存，以避免内存泄漏和优化内存使用。Python使用引用计数（ReferenceCounting）和垃圾回收（GarbageCollection）两种方式来管理内存。1.引用计数(ReferenceCounting)引用计数是Python内存管理的基础机制。每个对象都维护一个引用计数器，记录有多少个引用指向该对象。当一个新的引用指向

Carrie_Lei·2025-07-08 12:45

Python数据分析学习笔记：字符串统计

一、题目来源KagglePandas-Exercise:SummaryFunctionsandMaps章节二、题目要求描述一瓶葡萄酒时，可用的词汇有限。哪种词出现频率更高：“tropical”还是“fruity”？统计description列中这两个词的出现次数。忽略大小写。三、我的思路（使用str.contains统计总次数）tropical_count=reviews['description

NIKEeri·2025-07-08 11:39

【机器学习|学习笔记】随机森林（Random Forest, RF）详解，附代码。

【机器学习|学习笔记】随机森林（RandomForest,RF）详解，附代码。【机器学习|学习笔记】随机森林（RandomForest,RF）详解，附代码。

努力毕业的小土博^_^·2025-07-08 09:56

大语言模型与增强现实：空间计算时代的AI原生应用

大语言模型与增强现实：空间计算时代的AI原生应用关键词：大语言模型（LLM）、增强现实（AR）、空间计算、AI原生应用、多模态交互、具身智能、虚实融合摘要：当“能对话的AI大脑”（大语言模型）遇到“能叠加虚拟世界的魔法眼镜

Agentic AI人工智能与大数据·2025-07-08 09:50

Linux 命令使用笔记【sysctl】

名称在系统运行时，配置修改内核参数概要sysctl[options][variable[=value]][...]sysctl-p[fileorregexp][...]描述sysctl用于在linux系统运行时修改内核参数。可以修改的参数都在/proc/sys/文件夹下。Linux中的sysctl支持需要Procfs。您可以使用sysctl来读写sysctl数据。参数variable要从中读取的键

fzip·2025-07-08 08:49

Linux 命令使用笔记【zcat】

zcat命令zcat命令用于不真正解压缩文件，就能显示压缩包中文件的内容的场合。语法zcat(选项)(参数)选项-S：指定gzip格式的压缩包的后缀。当后缀不是标准压缩包后缀时使用此选项；-c：将文件内容写到标注输出；-d：执行解压缩操作；-l：显示压缩包中文件的列表；-L：显示软件许可信息；-q：禁用警告信息；-r：在目录上执行递归操作；-t：测试压缩文件的完整性；-V：显示指令的版本信息；-l

fzip·2025-07-08 08:19

PyTorch深度学习快速入门教程【小土堆】详细学习笔记（第1-11个视频笔记）

本学习笔记源自于B站up主【我是土堆】的视频教程：PyTorch深度学习快速入门教程（绝对通俗易懂！）

胡说八道的Dr. Zhu·2025-07-08 08:49

关于 Linux中系统调优的一些笔记

写在前面推送的的邮件里看到有大佬讲的公共课，听了之后这里整理学习笔记。因为是公开课，所以讲的很浅，没接触过，这里做为了解，长长见识。

山河已无恙·2025-07-08 08:45

大语言模型的具身化——LLM-based Agents实战

1.概述1.1Agent是什么长期以来，研究者们一直在追求与人类相当、乃至超越人类水平的通用人工智能（ArtificialGeneralIntelligence，AGI）。早在1950年代，AlanTuring就将「智能」的概念扩展到了人工实体，并提出了著名的图灵测试。这些人工智能实体通常被称为——代理（Agent）。「代理」这一概念起源于哲学，描述了一种拥有欲望、信念、意图以及采取行动能力的实体

apollowin123·2025-07-08 08:14

推荐频道

LLM笔记