HuggingFace

LLM微调训练指南

模型选择策略开源LLM的选择需综合评估任务需求与资源限制：LLaMA-2（7B/13B/70B）：商用友好，推荐使用HuggingFace格式的社区变体（如NousResearch版本）Mistral（

小小怪 @·2025-07-27 21:07

红帽AI推理服务器三大特点

无论部署在何种环境中，红帽AI推理服务器都为用户提供经过强化并获得官方支持的vLLM发行版，配套智能LLM压缩工具，以及在HuggingFace平台上优化的模型仓库。

openlabx.org.cn·2025-07-26 07:00

使用 LLaMA 3 8B 微调一个 Reward Model：从入门到实践

我们将使用HuggingFace的transformers、trl和peft等库，通过参数高效微调（LoRA）实现高质量RewardModel的训练。什么是RewardModel？

茫茫人海一粒沙·2025-07-25 11:45

【大模型】Hugging Face常见模型格式详解

HuggingFace作为全球最大的机器学习模型社区，支持多种不同的模型格式。这些格式各有特点，适用于不同的使用场景。

EulerBlind·2025-07-24 19:50

Hugging Face 模型的缓存和直接下载有什么区别？

HuggingFace模型的缓存和直接下载（下载到本地文件夹）是两种不同的模型管理方式，它们在使用场景、存储结构和效率上各有优劣。

SugarPPig·2025-07-24 14:49

论文笔记：EMR-MERGING: Tuning-Free High-Performance Model Merging

2024neurips1intro随着HuggingFace、timm和torchvision等开源仓库的发展，预训练与微调模型的数量激增，这导致模型部署的存储和成本负担加重。

UQI-LIUWJ·2025-07-24 13:41

【Hugging Face全面拥抱LangChain：全新官方合作包】

❝最近HuggingFace官宣发布langchain_huggingface，这是一个由HuggingFace和LangChain共同维护的LangChain合作伙伴包。

·2025-07-22 14:07

6、LangChain —— 使用 Huggingface 中的开源模型

文章目录一、概述二、大语言模型发展史三、预训练+微调的模式四、用HuggingFace跑开源模型五、申请使用Meta的Llama2模型六、通过HuggingFace调用Llama七、LangChain和

Miyazaki_Hayao·2025-07-22 13:36

解决 python 中的 huggingface_hub

解决python中的huggingface_hub.utils.

code_welike·2025-07-22 13:36

Hugging Face x LangChain: 全新 LangChain 合作伙伴包

langchain-huggingface与LangChain无缝集成，为在LangChain生态系统中使用HuggingFace模型提供了一种可用且高效的方法。

·2025-07-22 13:05

使用Python调用Hugging Face Question Answering (问答)模型

HuggingFace是一个知名的开源软件库，提供了许多强大的自然语言处理工具和模型。

墨如夜色·2025-07-22 13:34

Go-Redis × 向量检索实战用 HNSW 在 Redis 中索引与查询文本 Embedding（Hash & JSON 双版本）

方案：利用HuggingFace模型sentence-transformers/all-MiniLM-L6-v2生成384维Float32向量；借助RediSearch的HNSW索引能力，在Hash或JSON

Hello.Reader·2025-07-21 05:42

面向向量检索的教育QA建模：九段日本文化研究所日本语学院的Prompt策略分析（6 / 500）

每篇拆解1所学校在Prompt-QA系统中的建模策略，分享工程经验，本项目持续在HuggingFace上同步更新，欢迎AI工程师们关注。一.案例选择：为什么是九段日本语学院？

semantist@语校·2025-07-21 03:58

从Prompt到结构建模：如何以数据驱动重构日本语言学校体系？以国际日本语学院为例

每篇拆解1所学校在Prompt-QA系统中的建模策略，分享工程经验，本项目持续在HuggingFace上同步更新，欢迎AI工程师们关注。语言学校不是黑箱：为何要建模？

semantist@语校·2025-07-20 16:45

Gradio全解7——Additional Features：补充特性（下）

AdditionalFeatures：补充特性7.6访问网络请求和Analytics应用分析7.6.1直接访问网络请求7.6.2Analytics：应用分析7.7OAuth授权7.7.1OAuth：通过HuggingFace

龙焰智能·2025-07-10 00:10

huggingface 笔记： Trainer

Trainer是一个为Transformers中PyTorch模型设计的完整训练与评估循环只需将模型、预处理器、数据集和训练参数传入Trainer，其余交给它处理，即可快速开始训练自动处理以下训练流程：根据batch计算loss使用backward()计算梯度根据梯度更新权重重复上述流程直到达到指定的epoch数1配置TrainingArguments使用TrainingArguments定义训练

UQI-LIUWJ·2025-07-09 21:23

huggingface笔记：文本生成Text generation

1加载LLM模型fromtransformersimportAutoTokenizer,AutoModelForCausalLMimporttorchimportosmodel=AutoModelForCausalLM.from_pretrained("gpt2",device_map="auto",#自动分配到所有可用设备（优先GPU）torch_dtype=torch.bfloat16)2编码

UQI-LIUWJ·2025-07-09 21:23

一个小时快速部署大模型，附大模型书：ChatGLM3大模型本地化部署、应用开发与微调!

2.概念介绍几个部署要用到的概念，工具和项目huggingface:类似于模型的github，各种各样的开源模型都可以在这被找到.模型量化技术：这也是我们能够在低端设备

LLM教程·2025-07-08 07:05

Spring AI 第二讲之 Chat Model API 第五节HuggingFace Chat

前提条件添加spring-ai-huggingface依赖关系：org.springframework.aispring-ai-huggingface获取HuggingFaceAPI

·2025-07-07 01:38

百度文心大模型4.5开源风暴！API同步开放！

此次开源不仅权重与代码完全开放，还同步提供API服务，开发者可通过飞桨星河社区、HuggingFace、百度智能云千帆平台直接下载使用。文心大模型4.5系列开源模型

程序员辣条·2025-07-06 04:23

【有手就行无废话版】huggingface下载模型以及数据集命令

镜像网站：HF-Mirror1.导入环境变量：只需要导入一次cd..#这一步切换到你需要下载的目录下exportHF_ENDPOINT=https://hf-mirror.com;wgethttps://hf-mirror.com/hfd/hfd.sh;chmoda+xhfd.sh2.搜索模型名称，点复制3.下载./hfd.sh+复制的模型名称比如：./hfd.shOpenGVLab/Intern

·2025-07-05 13:09

本地部署Jina-CLIP v2:多语言多模态文本图像向量模型（包含一些踩坑记录和技巧）

令令小宁·2025-07-04 01:08

【Rust日报】Rust稳定2024版本将于 2025年2月20日发布

使用@huggingface/tokenizers进行快速编码。支持使用@rayon-rs/rayon进行批量嵌入生成和并行计算。默认模型是FlagEmbedding,在M

·2025-07-04 00:32

云原生环境下部署大语言模型服务：以 DeepSeek 为例的实战教程

然而，从HuggingFace下载模型，到提供一个结构化、稳定、可调用的API，并不是一个简单过程。

一ge科研小菜菜·2025-07-03 13:42

初学Spring AI 笔记

SpringAIChatClient使用SpringAI和LangChain对比常见问题与建议SpringAI简介SpringAI是Spring团队推出的人工智能集成框架，旨在简化AI模型（如OpenAI、HuggingFace

笑衬人心。·2025-07-02 05:14

1、快速上手 [代码级手把手解析diffusers库]

快速上手Pipeline内部执行步骤后续更新计划diffusers是HuggingFace推出的一个diffusion库，它提供了简单方便的diffusion推理训练pipe，同时拥有一个模型和数据社区

Yuezero_·2025-07-01 22:55

告别GPU焦虑：如何在纯CPU服务器上，打造高性能Embedding服务？

一开始，我们图方便，直接从HuggingFace上拉了当时效果最好的BAAI/bge-m3模型，用transformers库一把梭。结果呢？

ezl1fe·2025-07-01 10:02

FineWeb数据集

FineWeb是HuggingFace在2024年发布的一项革命性开源AI训练数据集，它通过提供高质量、大规模的数据，打破了AI训练数据的垄断局面。

frostmelody·2025-06-30 18:45

企业级AI开发利器：Spring AI框架深度解析与实战_spring ai实战

传统的Java生态缺乏统一的AI集成方案，开发者往往需要为不同AI供应商（如OpenAI、阿里云、HuggingFace）编写大量重复的接口适配代码，这不仅增加了开发成本，

AI大模型-海文·2025-06-28 13:07

LLM推理入门实践：基于 Hugging Face Transformers 和 vLLM

文章目录1.HuggingFace模型下载2.HuggingFaceTransformers库模型推理3.关于prompt的组成：system、user、assistant4.vLLM模型推理vLLM的多卡推理踩坑

ctrl A_ctrl C_ctrl V·2025-06-27 17:57

AIGC-controlnet代码详细解读以及训练一个自己的controlnet

huggingface社区diffusers官方代码：stable_diffusion/controlnetcontrolnet.ipynb原始代码的解读可以看看这个博主的：万字长文解读StableDiffusion

·2025-06-27 12:28

LangChain大语言模型接口层源码与调用机制深度解析(68)

它通过标准化的接口封装不同厂商的LLM服务，如OpenAI、Anthropic、HuggingFace等，使开发者能够以统一方式调用各类模型，而无需关注底层API细节。这种设计极大提升了框架的扩展性和

Android 小码蜂·2025-06-27 07:21

中文工单分类模型选择

在HuggingFace上，针对中文文本分类，我为你推荐以下最合适的模型：最推荐的模型：BERT-base-chinese模型名称(HuggingFaceID):google-bert/bert-base-chinese

SugarPPig·2025-06-27 04:26

如何获取和使用 DeepSeek-Prover-V2？

‌一、获取途径‌‌开源平台下载‌‌HuggingFace‌：模型已开源至HuggingFace平台，支持直接下载完整模型权重及配置文件。‌

AI生存日记·2025-06-26 21:03

第2章：Flux全版本说明

下载地址：https://huggingface.co/black-forest-labs/FLUX.1-dev/tree/main（需要魔法）Schnell版本开源可商用下载地

鱼雀AIGC·2025-06-26 19:54

大模型加载多个LoRA并灵活切换

本文将介绍如何在HuggingFace大模型中加载多个LoRA适配器，并实现灵活切换。LoRA技术简介LoRA是一种有效的模型适配技术，它通过在模型的权重矩阵中引入低秩结构来实现参数的高效更新。

Kaydeon·2025-06-26 19:20

使用Hugging Face的Sentence Transformers进行文本嵌入

概述HuggingFace的SentenceTransformers是一种用于生成文本和图像嵌入的Python框架，提供了最新的技术。

2501_92325368·2025-06-26 11:34

解决无法访问 HuggingFace

通过如下命令在命令行中设置环境变量HF_ENDPOINT为国内镜像地址（如hf-mirror.com）exportHF_ENDPOINT=https://hf-mirror.com

前行居士·2025-06-25 18:05

kkrot-lr·2025-06-25 16:13

当Spring AI遇上国产大模型DeepSeek：快速构建企业级AI应用

SpringAI是Spring官方推出的AI应用开发框架，具备以下特性：统一API：抽象Chat、Embedding、Image等AI能力接口多模型支持：OpenAI、Azure、HuggingFace

Yeharn·2025-06-25 15:42

使用Hugging Face的BGE模型进行文本嵌入

本文将通过HuggingFace平台展示如何使用BGE模型进行文本嵌入。技术背景介绍文本嵌入是将文本数据转换为可计算向量的过程，这在自然语言处理（NLP）中具有

lirxx·2025-06-25 11:39

深度学习踩坑实践

环境导出condaactivateyour_envcondaenvexport>env.yaml创建环境condaenvcreate-fenv.yaml关于github、huggingface等远程模型下载超时问题查询代理地址

暗魂b·2025-06-25 10:06

LeRobot: 让机械臂接入大模型

HuggingFace推出的开源项目LeRobot引发了业界广泛关注。

小众AI·2025-06-25 05:57

OSError: We couldn‘t connect to ‘https://huggingface.co‘ to load this file, couldn‘t find it in the

OSError:Wecouldn'tconnectto'https://huggingface.co'toloadthisfile,couldn'tfinditinthecachedfilesanditlookslikeroberta-baseisnotthepathtoadirectorycontainingafilenamedconfig.json.Checkoutyourinternetco

是纯一呀·2025-06-24 18:04

群核科技空间理解模型SpatialLM技术报告发布，3D空间识别精度达全球领先水平

据悉，该模型于今年3月正式开源，并在开源后迅速与DeepSeek-V3、Qwen2.5-Omni一起登上全球最大的开源社区HuggingFace全球趋势榜前三。

CSDN资讯·2025-06-24 16:18

当AI拥有空间直觉：SpatialLM如何让机器“看懂”三维世界？

开源地址：https://huggingface.co/manycore-research/SpatialLM-Llama-1B你是否想象过，只需用手机拍一段视频，AI就能像人类一样理解房间的布局、家具的位置

遇见小码·2025-06-24 15:15

字节内部热捧“7种大模型微调的方法笔记”，简直太全了！！

背景随着ChatGPT的爆火，很多机构都开源了自己的大模型，比如清华的ChatGLM-6B/ChatGLM-10B/ChatGLM-130B，HuggingFace的BLOOM-176B。

大模型教程.·2025-06-24 11:47

Hugging Face 一键部署代码模型

摘要：全球最大的开源AI社区HuggingFace近日宣布，其广受欢迎的InferenceEndpoints（推理端点）服务现已全面支持代码生成模型。

儿女初养·2025-06-24 07:20

利用ms-swift微调LLaVA-OneVision

LLaVA-OneVision资料合集环境安装目录详情训练模型下载模型准备训练(train)数据和验证集(validation)数据提前改一些小bug脚本Merged-LoRA脚本Infer脚本资料合集模型huggingface

moTcream·2025-06-23 07:16

text2vec-large-chinese 和m3e-large国外\国内下载方式

在下载之前，你得先确保已经安装了GitLFS，因为HuggingFace上的大模型文件需要用它来处理。

爱吃土豆的马铃薯ㅤㅤㅤㅤㅤㅤㅤㅤㅤ·2025-06-23 04:26

推荐频道