modelscope

【代码问题】【模型部署】部署千问时，ImportError: Cannot import available module of Qwen2_5_VLForConditionalGeneration

1.8.1pipinstallqwen-vl-utils[decord]==0.0.8peft==0.14.0transformers==4.52.3torch==2.7.0torchvision==0.22.0modelscope

Catching Star·2025-07-28 06:45

大模型格式

大模型格式：Ollama模型格式只能运行已打包成.gguf格式的模型，或通过其Modelfile方式构建ModelScope模型格式大多使用HuggingFaceTransformers格式，如.bin

·2025-07-21 06:20

AIGC革命：基于魔搭社区的LLM应用开发实战——从模型微调到系统部署

在这场技术革命中，魔搭社区（ModelScope）作为中国领先的AI模型开源平台，正成为开发者探索AI

Liudef06小白·2025-07-20 10:25

LLaMA 学习笔记

目录LLaMA模型结构：模型微调手册：推理示例：指定位置加载模型测试ok：模型下载：llama-stack下载modelscope下载LLaMA优化技术RMSNormSwiGLU激活函数旋转位置编码（RoPE

AI算法网奇·2025-07-12 06:41

AI初学者如何对大模型进行微调？——零基础保姆级实战指南

仅需8GB显存，三步完成个人专属大模型训练四步实战：从环境配置到模型发布步骤1：云端环境搭建（10分钟）推荐使用阿里魔塔ModelScope免费GPU资源：#注册后执行环境初始化pip3install-

·2025-07-09 02:15

ImportError: cannot import name ‘get_metadata_patterns‘ from ‘datasets.data_files‘这通常是由于 modelscope

base)powersys@powerSys:~/work/modelscope$python1.pyTraceback(mostrecentcalllast):File"/home/powersys/

微信公众号：AI创造财富·2025-06-30 20:04

一个简单测试Deepseek吞吐量的脚本,国内环境可跑

DeepSeek-R1-Distill-Qwen-32B,支持单卡409024G可跑,具体看你的硬件情况做调整,理论支持所有的模型,看你需要,可以修改模型名称,重点是pip使用国内的源,模型下载用阿里的ModelScope

谢平康·2025-06-29 19:17

阿里云魔搭社区AIGC专区：中国AI创作的革命性平台

一、魔搭社区：中国AI模型生态的奠基者魔搭社区（ModelScope）作为阿里云在2

Liudef06小白·2025-06-28 20:56

LLM推理入门实践：基于 Hugging Face Transformers 和 vLLM

system、user、assistant4.vLLM模型推理vLLM的多卡推理踩坑1.HuggingFace模型下载模型在HuggingFace下载，如果下载速度太慢，可以在HuggingFace镜像网站或ModelScope

ctrl A_ctrl C_ctrl V·2025-06-27 17:57

MNN 支持 InternVL 多模态大模型

MNN支持InternVL多模态大模型1.背景介绍InternVL(https://modelscope.cn/models/OpenGVLab/InternVL2_5-1B)是一个多模态模型，结合了视觉和语言处理能力

夕阳叹·2025-06-26 05:19

AssertionError: Torch not compiled with CUDA enabled

2025-06-1902:45:48,301-modelscope-INFO-Nopreprocessorkey('latent-text-to-video-synthesis','text-to-video-synthesis

微信公众号：AI创造财富·2025-06-21 23:16

Milvus/ES 插入方案对比

python-c"fromsentence_transformersimportSentenceTransformer;model=SentenceTransformer('/root/.cache/modelscope

风筝超冷·2025-06-20 14:08

llama_index chromadb实现RAG的简单应用

此demo是自己提的一个需求：用modelscope下载的本地大模型实现RAG应用。毕竟大模型本地化有利于微调，RAG使内容更有依据。为什么要用RAG？

victorwjw·2025-06-19 21:07

掌握Multi-Agent实践（八）：只需三步AgentScope Studio 快速构建多智能体应用，降低开发门槛

全新可视化界面——AgentScopeStudio安装gitclonehttps://github.com/modelscope/agentscope.gitcdagentscope#Onwindowspipinstall-e

汀、人工智能·2025-06-17 16:03

【GitHub开源项目实战】Nexus-Gen 多模态统一模型架构深度解析：All-to-All 表示学习与图像生成融合路径

Nexus-Gen多模态统一模型架构深度解析：All-to-All表示学习与图像生成融合路径关键词Nexus-Gen、多模态生成、All-to-All、图像生成、扩散模型、MLLM、图像编辑、预填充自回归、ModelScope

观熵·2025-06-17 01:16

使用ModelScopeEmbeddings进行文本嵌入

ModelScope是一个大型的模型和数据集库，提供了多种嵌入模型供开发者使用。本文将详细介绍如何使用ModelScope中的ModelScopeEmbeddings类来进行文本嵌入。

yunwu12777·2025-06-16 16:46

AI系列&Python系列：No preprocessor field found in cfg

2023-05-1107:05:07,609-modelscope-WARNING-Nopreprocessorfieldfoundincfg.2023-05-1107:05:07,609-mode

坦笑&&life·2025-06-15 16:11

【LLaMA-Factory实战】Web UI快速上手：可视化大模型微调全流程

二、WebUI核心架构图WebUI核心模块启动服务模型加载数据管理训练配置HuggingFace一键下载ModelScope模型库对接本地模型

陈奕昆·2025-06-10 05:57

大模型-modelscope下载和使用chatglm3-6b模型

前言由于官方chatglm3-6b大模型文件下载比较慢，找到国内modelscope代替方案1.SDK下载pipinstallmodelscope2.下载大模型文件✅方法1:通过pip下载1.安装setuptools

不穿铠甲的穿山甲·2025-06-03 19:25

【大模型】情绪对话模型项目研发

Open-webui前端实现使用LLamaFactory的STF微调数据集，vllm后端部署，二、框架安装下载千问大模型安装魔塔社区库文件pipinstall modelscopeDownload.py内容from modelscope

SSH_5523·2025-05-31 14:16

MCP云托管最优解，揭秘国内最大MCP中文社区背后的运行时

作者：封崇近期，中国第一AI开源社区魔搭（ModelScope）推出全新MCP广场，上架千余款热门的MCP服务。

46497976464·2025-05-28 11:09

【全网首发】使用 LoRA 微调 Qwen2.5-VL-7B-Instruct：完整流程解析

本次发布的模型涵盖3B、7B和72B三种尺寸，并已在HuggingFace和ModelScope上开源，方便不同需求的开发者使用。与此同时，随着大规模视觉

HovChen_·2025-05-25 06:53

LLaMA-Factory微调大模型Qwen2.5

1、开始ModelScope社区GPU环境训练或微调模型都是非常耗费算力的。如果电脑的配置不高，可使用一些云服务器来做这项工作。

will.hu·2025-05-20 12:57

ModelScope 模型的上传

本文介绍在ModelScope社区上传模型的两种方式:使用PythonSDK创建并上传模型使用GIT上传模型准备#在进行模型上传之前，请先完成账号注册、登陆。

QQ92058858·2025-05-17 09:45

本地部署chatglm4-9b（超简单）

魔塔社区网址：link下载模型：gitclonehttps://www.modelscope.cn/ZhipuAI/glm-4-9b-chat.git2.创建虚拟环境：python-mvenvchatglm

A97139012·2025-05-11 20:44

通义灵码编码插件支持MCP

通义灵码MCP功能集成概述通义灵码已深度集成魔搭社区（ModelScope）的MCP（ModelContextProtocol）服务，为开发者提供了在IDE中直接调用AI能力的便捷通道。

剑哥在胡说·2025-05-10 02:11

【AI】模型与权重的基本概念

在ModelScope平台上，「模型」和「权重」的定义与工程实践紧密结合，理解它们的区别需要从实际的文件结构和加载逻辑入手。

hkNaruto·2025-05-08 23:42

首发！Llama3纯本地部署攻略！中文方法！

日刚刚发布，官方的对比结果中在开源模型中堪称世界第一，整好周六日有时间，在魔搭社区上测试一下一、启动环境登录魔搭社区，到自己的机器资源，可以看到，可选的机器配置，这里我们选择：8核32G内存，24G显存；预装ModelScope

添财小哥·2025-05-03 04:21

【学习资源】知识图谱与大语言模型融合

1模型库获取https://modelscope.cn/models注下载模型需运行gitlfsinstal2论文和文章2.1大型语言模型与知识图谱：机遇与挑战https://arxiv.org/pdf

苹果二·2025-04-30 17:55

使用SGLang部署Qwen3大模型的完整指南

使用SGLang部署Qwen3大模型的完整指南一、前言二、环境准备1.安装ModelScope库2.创建Python虚拟环境三、依赖安装1.安装SGLang框架2.更新Transformers库四、模型部署

engchina·2025-04-30 08:24

【LLM】llama.cpp：合并 GGUF 模型分片

当从开源社区（如HuggingFace或ModelScope）下载量化模型时，常会遇到分片存储的情况。

T0uken·2025-04-28 21:11

千问2.5-VL-7B的推理、微调、部署_笔记2

ms-swift开源地址：https://github.com/modelscope/

山山而川_R·2025-04-26 11:36

UI-TARS与Midscene.js自动化探索

配置UI-TARS模型服务模型部署：在阿里云PAI、ModelScope

闫小甲·2025-04-25 17:29

实测安装魔塔的步骤

魔塔框架实际就是python的模块：modelscope所以需要依赖python语言的运行环境，这里使用Miniconda（可以管理python虚拟环境的一个命令行工具）。

YY_pdd·2025-04-24 03:41

在Ubuntu服务器上部署xinference

、拉取镜像dockerpullxprobe/xinference:latest二、启动容器（GPU）dockerrun-d--namexinference-eXINFERENCE_MODEL_SRC=modelscope-p9997

你喜欢喝可乐吗？·2025-04-19 00:44

部署docker版本的FunASR

1.1模型下载首先我们需要从modelscope网站中下载需要的模型。damo/speech_fsmn_vad_zh-cn-16k-co

Luke Ewin·2025-04-17 21:19

bert-base-chinese模型使用教程

importtorchfromtransformersimportBertTokenizer,BertModelimportnumpyasnpmodel_name="C:/Users/Administrator.DESKTOP-TPJL4TC/.cache/modelscope

raoxiaoya·2025-04-15 18:16

Mineru保姆级部署教程

目录1.拉取mineru代码2.安装magic-pdf3.下载模型文件1.从modelscope下载模型（推荐）2.从HuggingFace下载模型4.修改配置文件以进行额外配置（针对想使用GPU加速的同学

哈拉斯·2025-03-31 06:10

FunASR 中文语音实时识别输出使用示例（准确率比faster-whisper高）

文章目录Github官网简介模型安装非流式应用示例流式应用示例Githubhttps://github.com/modelscope/FunASR官网https://www.funasr.com/#/简介

逢生博客·2025-03-30 16:34

vscode在win10上安装modelscope库的C盘缓存优化方法

【问题说明】：笔者在VSCode上安装扩展插件和modelscope模型和数据集，发现默认都直接安装和缓存在C盘中，使得C盘的空间消耗特别快。

何雷 — 智能网联汽车·2025-03-26 20:10

一步到位！7大模型部署框架深度测评：从理论到DeepSeek R1:7B落地实战

本文深入解析主流模型部署框架（Transformers、ModelScope、vLLM、LMDeploy、Ollama、SGLang、DeepSpeed），结合其技术原理、优缺点及适用场景，并提供DeepSeekR1

人肉推土机·2025-03-22 05:12

大模型微调

json格式文件三，使用算子分析数据并进行数据处理四，划分训练集和测试集五，编写训练脚本开始训练六，进行模型推理人工评估总结前言这是使用知乎评论进行模型微调，让模型输出更加通畅接近人的使用语言一、使用的库modelscope

归一码字·2025-03-21 04:36

vllm部署说明和注意事项

DeepSeek-R1-Distill-Qwen-32B可去modelscope下载：整体大小约为60GB部署DeepSeek-R1-Distill-Qwen-32B模型，

ai一小生·2025-03-17 14:59

通过docker-compose部署qwen2-vl-7b模型

docker-compose.yml遇到的报错在ONE-API设置测试脚本准备工作1、安装较新版本的docker-compose2、安装docker-nvidia3、下载qwen2-vl-7b的模型文件，参考：https://modelscope.cn

scutshijie·2025-03-17 14:28

windows下玩转vllm：在wsl下安装vllm后续，设置modelscope作为下载源

文章目录前言所涉及的之前的关键步骤解决模型权重下载网络不通畅的问题vllm和modelscope整合后的bug附录ImportError:cannotimportname'_try_login'from'modelscope.utils.hf_util

几道之旅·2025-03-15 12:42

大模型LLM基于PEFT的LoRA微调详细步骤---第一篇：模型下载篇

模型下载：HuggingFace官网：https://huggingface.co/----需要VPN魔搭社区：https://modelscope.cn/home----国内映射，不需要VPN写在篇始

素雪风华·2025-03-15 08:42

基于SWIFT和Qwen1.5-0.5B-Chat进行大模型全参微调（魔搭社区）

1，swift框架安装pipinstallms-swift2，模型下载gitclonehttps://www.modelscope.cn/qwen/Qwen1.5-0.5B-Chat.git二、数据集准备使用

m0_65156252·2025-03-13 18:47

【安装ollama】

#安装1.参考官网安装2.使用modelscope镜像#使用命令行前，请确保已经通过pipinstallmodelscope安装ModelScope。

放飞自我的Coder·2025-03-12 02:20

如何将hf-mirror.com作为vllm默认的下载源? conda如何移除虚拟环境？conda 如何复制一份虚拟环境？

前言上回咱说道，如果你没办法访问huggingface.co，则可以把modelscope作为vllm默认的下载源。但如果你非得用你用不了的huggingface.co呢？

几道之旅·2025-03-07 17:45

高效部署通义万相Wan2.1：ComfyUI文生/图生视频实战，工作流直取！

01魔搭Notebook运行ComfyUI文生视频工作流step1如何在魔搭中启动Notebook1、打开ModelScope魔搭社区首页，点击我的Notebook2、魔搭社区免费提供的GPU免费算力上体验

zhangjiaofa·2025-03-06 07:33

推荐频道