DeepSeek R1模型基于ollama部署

DeepSeek R1模型基于ollama部署

    • 1、安装部署ollama (windows)
    • 2、在ollama中使用deepseek r1
    • 3、问答示例
    • 4、python调用接口
    • 5、ollama 常用命令

1、安装部署ollama (windows)

Ollama是一个专为本地机器设计的开源框架,旨在简化大型语言模型(LLM)的部署和运行过程。

它提供了一套工具和命令,使用户能够轻松地下载、管理和运行各种语言模型,包括DeepSeek、LLaMA、LLaVA等流行模型

可以去直接去官网下载: https://ollama.com/

也可以直接下载:
https://github.com/ollama/ollama/releases/download/v0.5.7/OllamaSetup.exe

下载完,点击:OllamaSetup.exe 安装, 会强行安装在C盘

检查是否安装成功: windows cmd 命令: where ollama

2、在ollama中使用deepseek r1

第一次执行ollama run deepseek-r1:1.5b 会自动下载模型

注:ollama deepseek r1 模型网址:https://ollama.com/library/deepseek-r1:1.5b

F:\pro\deepseek_demo>ollama run deepseek-r1:1.5b
pulling manifest
pulling aabd4debf0c8... 100% ▕████████████████████████████████████████████████████████▏ 1.1 GB
pulling 369ca498f347... 100% ▕████████████████████████████████████████████████████████▏  387 B
pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕████████████████████████████████████████████████████████▏  148 B
pulling a85fe2a2e58e... 100% ▕████████████████████████████████████████████████████████▏  487 B
verifying sha256 digest
writing manifest
success
>>> Send a message (/? for help)

3、问答示例

F:\pro\deepseek_demo>ollama run deepseek-r1:1.5b
>>> AI算法学习教程
<think>

</think>

AI算法的学习可以从以下几个方面入手:

### 1. **基础概念与原理**
   - **理解基本概念**:掌握机器学习、深度学习的基本概念,了解它们在AI中的应用。
   - **学习算法原理**:深入理解线性回归、逻辑回归、k-近邻算法等简单算法的原理和工作机制。

### 2. **常用算法与模型**
   - **线性回归**:掌握最小二乘法、梯度下降等方法,能够实现对简单数据集的建模。
   - **逻辑回归**:理解 odds ratio 和 classification performance指标,能够应用到分类问题中。
   - **k-近邻算法(KNN)**:学习如何选择k值和降维技术提升性能。
   - **决策树与随机森林**:掌握特征重要性分析和模型的泛化能力。
   - **梯度下降**:理解其在训练神经网络中的作用,能够优化目标函数。
   - **Backpropagation**:掌握前向传播、损失计算和反向传播算法的应用。
   - **卷积神经网络(CNN)**:学习特征提取和分类任务中CNN的优势。
   - **循环神经网络(RNN)/长短期记忆网络(LSTM)**:理解序列建模的基本原理,能够处理时间序列数据。
   - **自监督学习**:掌握无标签数据的生成模型,如 autoencoders 和 contrastive learning。
   - **生成模型**:了解VAE和GAN的思路,能够生成高质量的数据样本。
   - **深度学习框架**:熟练使用TensorFlow或PyTorch等框架,训练多层神经网络。

### 3. **算法优化与超参数调优**
   - **评估指标**:理解准确率、召回率、F1 score 等指标的作用和适用范围。
   - **正则化技术**:掌握L2正则化( ridge regression)和 dropout等方法,防止过拟合。
   - **优化算法**:了解Adam、SGD等优化器的参数更新策略,提升训练速度。

### 4. **深度学习与模型综合**
   - **多层感知机(MLP)**:掌握神经网络的基本结构和训练方法。
   - **循环神经网络扩展**:理解LSTM和GRU的差异及其在语音识别、时间序列分析中的应用。
   - **自监督学习技术**:了解数据无标签化和任务生成的潜力。

### 5. **模型评估与探索**
   - **交叉验证**:掌握K-fold交叉验证等方法,避免过拟合。
   - **异常检测与可视化**:学习特征分析和降维技术(如t-SNE)进行数据可视化。
   - **模型解释性**:理解深度学习模型的可解释性问题及其解决方向。

### 6. **实际应用**
   - **数据预处理**:掌握数据清洗、特征工程和归一化等技能,为建模打下基础。
   - **实战项目实践**:通过简单的项目(如分类或回归)积累经验,并逐步挑战复杂任务。

### 7. **持续学习与资源**
   - **深入研究论文**:阅读深度学习领域的经典论文,了解最新技术。
   - **参与社区讨论**:参加AI论坛和比赛,获取经验并提出问题。
   - **关注新技术**:如GPT-4、Transformer架构等,保持对前沿技术的敏感。

### 总结
AI算法的学习是一个系统工程,需要耐心积累基础,逐步提升能力。通过不断实践和深入研究,逐步掌握复杂算法,并在实际应用中
探索新领域的潜力。

退出ollama

 Ctrl + d

4、python调用接口

import requests
import json

# Ollama 的地址和端口(默认是 11434)
ollama_url = "http://localhost:11434" # 可以在浏览器测试是否可以请求
 
# API 路径和参数
api_path = "/api/generate"
data = {
    "model": "deepseek-r1:1.5b",  # 使用你想要的模型名称,例如 "mistral" 或 "llama2"
    "prompt": "如何学习AI算法",  # 你想要模型生成的文本的提示
    "stream": False, # 如果True 则response 的content-type类型为:application/x-ndjson, false则为 application/json
}
 
# 发送 POST 请求到 Ollama API
response = requests.post(f"{ollama_url}{api_path}", json=data)

# 检查响应状态码
print(response.headers)
if response.status_code == 200:
    # print(response.text)
    if "application/x-ndjson" in response.headers.get("Content-Type").lower():
        data = response.text.split("\n")
        data = [json.loads(i.strip()) for i in data if i]
        for i in data:
            print("===",i)
            
    elif "application/json" in response.headers.get("Content-Type").lower():
        data = response.json()
        # print(data)
        print(data["response"])
else:
    print("Error:", response.status_code, response.text)
	

5、ollama 常用命令

启动 ollama 服务器
ollama serve

运行模型
注:第一次运行会自动下载模型
ollama run 模型名称
进入shell以后,可以通过Ctrl + D退出

列出全部模型
ollama list

列出正在运行的模型
ollama ps

你可能感兴趣的:(机器学习笔记,python,语言模型,nlp)