ollama入门教程

vllm本地台式机运行(3070显存8G)

ollama和vllm的对比这块对比网上都很多资料了，这边使用上简单感觉就是ollama很方便部署,占用资料更少,但后续性能会差点,各选项也不一样.ollama安装和使用和docker很像,就不赘述了,
名明鸣冥·2025-07-29 22:07

【Ollama】大模型本地部署与 Java 项目调用指南

Ollama大模型本地部署与Java项目调用指南一、引言背景介绍Ollama是一个轻量级的大语言模型部署工具，支持快速在本地拉取、运行主流开源模型（如LLaMA3、Mistral、Gemma等）。
科马·2025-07-28 23:46

有新手入门教程吗?

一个叫群买买的小程序突然引爆微信朋友圈，引起各个项目团队的一阵骚动。各大平台关于群买买的相关名字瞬间被抢注，各个项目群里聊的都是群买买小程序。这背后是一股什么力量在推动?背后又是什么资本在推动?关于群买买的背后真相，大家好，我是【高省】最大团队创始人珊珊，至于我为何从群买买平台转到高省APP，当然是高省佣金更高，模式更好。咱们高省是一个可省钱佣金高，能赚钱有收益的平台，百度有几百万篇报道，也期待你
高省APP珊珊·2025-07-28 13:13

CTF入门教程（非常详细）从零基础入门到竞赛，看这一篇就够了！

一、CTF简介CTF（CaptureTheFlag）中文一般译作夺旗赛，在网络安全领域中指的是网络安全技术人员之间进行技术竞技的一种比赛形式。CTF起源于1996年DEFCON全球黑客大会，以代替之前黑客们通过互相发起真实攻击进行技术比拼的方式。发展至今，已经成为全球范围网络安全圈流行的竞赛形式，2013年全球举办了超过五十场国际性CTF赛事。而DEFCON作为CTF赛制的发源地，DEFCONCT
网络安全宇哥·2025-07-27 15:55

Excel快速入门教程8-数据透视表

有时您需要分析大量数据，成易于阅读和理解的报告。数据透视图允许我们分析此类数据并生成满足业务要求的报告。在本教程中，我们将介绍以下主题;什么是数据透视图？创建数据透视图二维数据透视图什么是数据透视图？数据透视图是大数据集的摘要，通常包括总数，平均值，最小值，最大值等。假设您有不同地区的销售数据，使用数据透视图可以按地区汇总数据并查找每个区域的平均销售额，每个区域的最大和最小销售额等。数据透视图允许
python测试开发·2025-07-27 06:06

网络安全漏洞挖掘入门教程（非常详细），从入门到精通，收藏这一篇就够了

一、什么是网络安全漏洞挖掘？1、简单介绍漏洞挖掘网络安全漏洞挖掘的全称为安全漏洞探测，简称漏洞挖掘，别称有白帽测试、渗透测试等。网络安全漏洞挖掘是一种主动查找系统、应用或网络弱点的过程，目的是在恶意攻击者之前发现和修复漏洞，保障数据安全。安全团队通过漏洞挖掘技术，对目标进行系统性扫描和分析，识别出如注入攻击、缓冲区溢出等隐患，并提供修补方案。如果形象地理解，漏洞挖掘就如同一个数字侦探，它的核心任务
前字节网络安全工程师·2025-07-26 18:45

Docker部署 Dify

多试几次gitclonehttps://kkgithub.com/langgenius/dify.git2.安装difydockercomposeup-d3.部署成功访问本地127.0.0.14.安装OLLama
swj868·2025-07-25 19:40

图书推荐-对初学者有好的算法书籍《Hello算法》

关于本书Hello算法本书是开源免费的数据结构与算法入门教程，采用动画图解和可运行代码示例讲解主要内容涵盖复杂度分析、数据结构（数组/链表/栈/队列/树/图等）、算法（搜索/排序/动态规划等）适合算法初学者建立知识体系
_abab·2025-07-25 17:21

【CS.DB】从零到精通：这可能是全网最全面最强大的SQL入门教程

文章目录1.什么是SQL？1.1SQL的历史1.1.1SQL的标准化过程2.SQL基础语法2.1数据库操作2.1.1创建数据库2.1.2删除数据库2.2表操作2.2.1创建表2.2.2删除表2.2.3修改表2.3数据操作2.3.1插入数据2.3.2更新数据2.3.3删除数据2.4查询数据2.4.1基本查询2.4.2条件查询2.4.3排序查询2.4.4聚合函数3.高级SQL语法3.1连接操作3.1.
林炏·2025-07-25 15:42

2025最新版虚幻引擎5(UE5)C++入门教程：前言——你的随身教程和学习笔记

大家好，我是开发游戏的老王，一名高校教师，我主讲游戏开发已有十余年时间，通过我的博客大家应该可以了解我所涉猎的游戏技术范畴非常广泛，除了Unreal,Unity,Godot等主流游戏引擎，还包括Blender、Houdini、3DCoar等各种资产创作工具，我曾经在2018年获得Unity开发者认证（UnityCertifiedDeveloper），也曾经撰写过国内第一部本科生课堂使用的Godot
开发游戏的老王·2025-07-24 21:36

LLaMA-Factory快速入门

动态合并LoRA的推理4.3训练效果评估4.4LoRA模型合并导出5.webuiboard的使用5.1使用介绍5.2APIServer的启动与调用6进阶6.1大模型主流评测benchmark6.2部署Ollama1
@BangBang·2025-07-24 21:32

Qwen3 大模型开发实战指南（七）：Qwen3 Agent 实战，释放智能交互强大潜力

开启智能应用大门02Qwen3大模型开发实战指南（二）：基于vLLM高效推理，性能飙升03Qwen3大模型开发实战指南（三）：基于GLang快速推理，服务部署快人一步04Qwen3大模型开发实战指南（四）：基于Ollama
寻道AI小兵·2025-07-24 19:51

从 Ollama 转向 vLLM：寻求高通量 LLM 服务的稳定性

简介在过去的一年里，我一直在大量使用GraphRAG（微软版本和我自己开发的版本），我总是惊讶于文档复杂性的微小增加会造成多大的预算浪费。当我使用gpt-4.1-miniOpenAI时——仅一套文档就花费了我200多美元（！！）。即使使用gpt-4.1-nano（目前最便宜的前沿模型），我的预算也是荒谬的。为几份（确实很大的）文件花费2.15亿个代币是荒谬的，而且需要几天的时间来处理，这太过分了。
知识大胖·2025-07-24 03:38

开源模型应用落地-qwen模型小试-Qwen2.5-7B-Instruct-玩转ollama（一）

在这样的背景下，Ollama的出现为广大开发者和爱好者提供了一条便捷的道路，极大地降低了应用机器学习的门槛。Ollama的优势在于其极致的简化。
开源技术探险家·2025-07-23 15:20

ollama

https://ollama.comollamarunllama3.2新建ModelfileFROMllama3.2#设定温度参数为1[更高的更具有创新性，更低的更富有连贯性]PARAMETERtemperature1
·2025-07-23 14:17

程序员管理与AIStarter开发：如何避免需求Bug，提升项目效率

AIStarter专注AI模型部署（如Ollama），一键安装，免费为主，市场反馈超棒！总结：
ai_xiaogui·2025-07-23 13:35

Spring AI核心技术面试指南：从大模型集成到生产级部署，9轮深度技术拷问（含架构解析）

中间层适配OpenAI/Ollama等实现，底层整合SpringBoot自动配置！@ConfigurationpublicclassOl
·2025-07-23 09:40

Python 线程优先队列 PriorityQueue - Python零基础入门教程

目录一.Python线程队列Queue分类二.Python线程优先队列PriorityQueue简介三.Python线程优先队列PriorityQueue函数介绍四.Python线程优先队列PriorityQueue使用五.猜你喜欢零基础Python学习路线推荐:Python学习目录>>Python基础入门在线程队列Queue/线程队列LifoQueue文章中分别介绍了先进先出队列Queue和先进
猿说编程·2025-07-23 09:05

Markdown编辑器入门教程

这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML图表FLowchart流程图导出与导入导出导入欢迎使用Mark
AIIDECode·2025-07-22 23:34

Redis入门教程（一）：基本数据类型

一、Redis是什么？为什么你需要它？Redis（RemoteDictionaryServer）是一个开源的内存数据结构存储系统，它可以用作数据库、缓存和消息中间件。与传统的关系型数据库不同，Redis将数据存储在内存中，使其读写速度达到惊人的11万次读/秒和8.1万次写/秒。同时支持数据持久化，重启后数据不丢失，完美平衡了速度与可靠性。Redis的五大核心优势：丰富的数据结构：支持字符串（Str
·2025-07-22 21:51

掌握 RAG：使用 Langchain 和 Ollama 创建本地智能应用程序

引言随着大型语言模型（LLMs）的兴起，我们见证了一种新的工具类别的诞生。然而，LLMs也存在局限性，尤其是当面对需要最新信息或专有数据的商业用例时。本文将介绍如何通过微调和RAG来解决这些问题。LLMs的局限性传统LLMs训练成本高昂，且只能访问公共信息。对于商业用途，需要模型能够提供基于内部知识的最新回应。文章介绍了两种解决这一问题的方法：微调和RAG。微调微调是针对特定数据集进一步训练预训练
知世不是芝士·2025-07-22 07:42

autodl云计算平台 使用ollama 部署lightrag 加入streamlit界面

1到autodl的算力市场里开一台机器镜像选择：PyTorch2.3.0、Python3.12(ubuntu22.04)、Cuda12.1我本来选择的Cuda12.4，但版本过高疑似会使ollama不使用
42fourtytoo·2025-07-22 06:10

Kimi-Audio：最佳音LLM, 如何免费使用 Kimi-Audio AI 模型？

推荐文章《NvidiaGPU入门教程之02ubuntu安装A100显卡驱动(含8步快速浓缩教程)》权重2，安装A100显卡驱动《本地大模型知识库OpenWebUI系列之如何解决知识库上传文件故障Extractedco
知识大胖·2025-07-22 03:17

C++入门教程笔记·基本语法数据类型

编写不易，请勿搬运嵌入式开发学C++有必要嘛首先嵌入式开发的常用工具，keil5，Vscode，Esp-idf三个编译工具中都是支持C++语言的，也就是说常见芯片种类ST、ESP、等芯片类型都能够使用C++进行开发，同时在公司工程中，对于使用C++开发的工程对于项目的后续维护，改版都是需要懂C++的，所以能看懂C++，学好C++非常有必要。同时在ST开发的hal库中的函数驱动底层抽象库中，都是使用
·2025-07-21 23:51

Docker build ollama

dockerrun-d--gpus=all-vollama:/root/.ollama-p11434:11434--networkbridge--nameollamaollama/ollama
longze_7·2025-07-21 13:46

大模型格式

大模型格式：Ollama模型格式只能运行已打包成.gguf格式的模型，或通过其Modelfile方式构建ModelScope模型格式大多使用HuggingFaceTransformers格式，如.bin
·2025-07-21 06:20

学习笔记(66):Python入门教程-datetime模块时间运算

立即学习:https://edu.csdn.net/course/play/24459/296363?utm_source=blogtoedudatetime模块：datetime.date：表示日期的类，常用属性有year，month，daydatetime.time：表示时间的类，常用的属性有hour,minute,second,microseconddatetime.datetime：表示日
顾子宇·2025-07-20 22:19

通过 Ollama 获取并运行本地大型语言模型（LLM）

Ollama是一个开源工具，专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计。
·2025-07-20 18:56

响应式编程入门教程第五节：Unity 生命周期与资源管理中的响应式编程

响应式编程入门教程第一节：揭秘UniRx核心-ReactiveProperty-让你的数据动起来！
吉良吉影NeKoSuKi·2025-07-20 15:36

响应式编程入门教程第一节：揭秘 UniRx 核心 - ReactiveProperty - 让你的数据动起来！

响应式编程入门教程第一节：揭秘UniRx核心-ReactiveProperty-让你的数据动起来！
吉良吉影NeKoSuKi·2025-07-20 15:35

响应式编程入门教程第三节：ReactiveCommand 与 UI 交互

响应式编程入门教程第一节：揭秘UniRx核心-ReactiveProperty-让你的数据动起来！
吉良吉影NeKoSuKi·2025-07-20 15:35

响应式编程入门教程第四节：响应式集合与数据绑定

响应式编程入门教程第一节：揭秘UniRx核心-ReactiveProperty-让你的数据动起来！
吉良吉影NeKoSuKi·2025-07-20 02:07

【vLLM 学习】Encoder Decoder Multimodal

更多vLLM中文文档及教程可访问→https://vllm.hyper.ai/*在线运行vLLM入门教程：零基础分步指南源码examples/offline_inference/encoder_decoder_multimodal.py
HyperAI超神经·2025-07-19 20:42

使用 Ollama 、 DeepSeek和QWEN的模型上下文协议 (MCP) ，使用本地 LLM 教程的 MCP 服务器

简介模型上下文协议：MCP服务器据称是AI领域的下一个重大改变者，它将使AI代理变得比我们想象的更加先进。MCP或模型上下文协议由Anthropic去年发布，它可以帮助LLM连接软件并对其进行控制。但有一个问题大多数MCP服务器都与ClaudeAI兼容，尤其是ClaudeAI桌面应用程序，但它们有自己的限制。有没有办法我们可以使用本地LLM运行MCP服务器？是的，在这个特定的逐步详细教程中，我们将
知识大胖·2025-07-12 11:51

24GB GPU 中的 DeepSeek R1：Unsloth AI 针对 671B 参数模型进行动态量化

推荐文章《本地构建AI智能分析助手之01快速安装，使用PandasAI和Ollama进行数据分析，用自然语言向你公司的数据提问为决策
知识大胖·2025-07-12 11:21

使用 DeepSeek R1 和 Ollama 开发 RAG 系统 使用 DeepSeek R1 和 Ollama 构建强大的 RAG 系统。了解开发智能 AI 解决方案的设置过程、最佳实践和技巧。

简介DeepSeekR1和Ollama提供了用于构建检索增强生成(RAG)系统的强大工具。本指南介绍了使用这些技术开发RAG应用程序的设置、实施和最佳实践。
知识大胖·2025-07-12 11:20

OpenWebUI系列之 如何通过docker自动将其更新到OpenWebUI最新版本

它支持各种LLM运行器，包括Ollama和OpenAI兼容API。如何通过docker自动将其更新到OpenWebUI最新版本？
知识大胖·2025-07-12 11:20

AnythingLLM教程系列之 12 AnythingLLM 上的 Ollama 与 MySQL+PostgreSQL

本文将介绍如何在AnythingLLM上将Ollama与MySQL+PostgreSQL连接起来。
知识大胖·2025-07-12 11:20

Ollama平台里最流行的embedding模型： nomic-embed-text 模型介绍和实践

之所以选用这个模型，是因为在Ollama网站查找这个模型，发现
skywalk8163·2025-07-12 10:39

【实战AI】macbook M1 本地ollama运行deepseek

由于deepseek官网或者Aapi调用会有网络延迟或不响应的情况，故在本地搭建部署；前提条件1.由于需要拉取开源镜像，受网络限制，部分资源在前提中会下载的更快！请自行；2.设备macbookM132G下载ollamaOllama是一款跨平台推理框架客户端（MacOS、Windows、Linux），专为无缝部署大型语言模型（LLM）（如Llama2、Mistral、Llava等）而设计。通过一键式
东方鲤鱼·2025-07-12 08:24

在Ubuntu系统下使用Docker部署ollama并使用英伟达gpu加速

下载安装英伟达Nvidiacontainertoolkit：curl-fsSLhttps://nvidia.github.io/libnvidia-container/gpgkey|sudogpg--dearmor-o/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg\&&curl-s-Lhttps://nvidia.github.io
longze_7·2025-07-11 04:15

Spring AI 本地 RAG 实战：用Redis、Chroma搭建离线知识问答系统

本文将用Ollama+Qwen-7B搭建离线知识问答系统（含Redis/Chroma向量库）目录前言环境搭建项目结构设计Maven依赖pom.xmlapplication.yml配置（Redis+Ollama
勤奋的知更鸟·2025-07-11 00:51

内网环境部署Deepseek+Dify，构建企业私有化AI应用

0.简介#公司为生产安全和保密，内部的服务器不可连接外部网络，为了可以在内网环境下部署，采用的方案为ollama(Docker)+Dify(DockerCompose)，方便内网环境下迁移和备份，下文将介绍部署的全部过程
我是鲁阿姨·2025-07-10 16:54

ollama v0.9.6版本发布详解：修复启动屏幕样式及新增工具名称参数支持

作为近年来备受瞩目的开源对话式人工智能框架之一，ollama持续更新优化其产品，致力于为开发者带来更稳定、高效的使用体验。
福大大架构师每日一题·2025-07-10 07:29

大一小白初学51单片机——安装开发软件Keil5C51

前言本文主要是结合B站上江科大的51单片机入门教程进行的经验总结，希望能帮助大家能快速入手单片机，快速安装使用开发软件Keil5C51。
老虎0627·2025-07-10 03:02

logback 入门教程系列-03-logback config 配置

配置将日志请求插入应用程序代码需要相当多的计划和努力。观察表明，大约4％的代码专门用于记录。因此，即使是适度大小的应用程序也会在其代码中嵌入数千个日志记录语句。鉴于它们的数量，我们需要工具来管理这些日志语句。可以通过编程方式或使用以XML或Groovy格式表示的配置脚本来配置Logback。顺便说一句，现有的log4j用户可以使用我们的PropertiesTranslatorWeb应用程序将他们的
老马啸西风·2025-07-10 02:56

EMQX 入门教程⑪——通过 ExHook 使用 gRPC 服务接收 EMQX 回调事件（已连接/已断开/已订阅/已发布...）

的hook实现方法五、下载emqx-extension-examples六、修改Demo代码七、编译Demo代码八、运行Demo程序九、ExHook设置和启用十、更多日志十一、文档参考一、前文EMQX入门教程
小康师兄·2025-07-10 02:21

【vLLM 学习】Eagle

更多vLLM中文文档及教程可访问→https://vllm.hyper.ai/*在线运行vLLM入门教程：零基础分步指南源码examples/offline_inference/eagle.py#SPDX-License-Identifier
·2025-07-09 21:34

新增 PHP 设置与 Ollama 支持

在本次更新中，我们不仅修复了已知问题，提升了整体稳定性，更带来了两项备受期待的强大功能——灵活的PHP配置修改与前沿的Ollama集成。我们相信，这次更新将为您的本地开发工作流注入新的活力！
ServBay·2025-07-09 20:45

PyTorch深度学习快速入门教程【小土堆】详细学习笔记（第1-11个视频笔记）

本学习笔记源自于B站up主【我是土堆】的视频教程：PyTorch深度学习快速入门教程（绝对通俗易懂！）
胡说八道的Dr. Zhu·2025-07-08 08:49
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他