如何用python调用本地deepseek-r1模型

前提:通过ollama安装好deepseek-r1:14b,并在chatbox中配置了该模型

1、在chatbox查询服务地址为http://127.0.0.1:11434

2、写python代码

import openai
client = openai.Client(
    base_url="http://127.0.0.1:11434/v1", api_key="EMPTY")

# Chat completion
response = client.chat.completions.create(
    model="deepseek-r1:14b",
    messages=[
        
        {"role": "user", "content": "List 3 countries and their capitals."},
    ],
    
    max_tokens=-1,
    temperature=1
)
print(response.choices)

3、运行代码会得出deepseek-r1思考过程和结果,需要注意的是max_tokens的含义,其中max_tokens如果取64只会回答部分内容,因此我设置了-1,表示没有限制长度。

最终目标是学习如何利用deepseek训练自己的模型,这是阶段过程,记录一下。

你可能感兴趣的:(python,开发语言,语言模型)