Ollama的安装及使用

1. ollama 下载

下载地址：https://ollama.com/download

2. linux安装

执行命令：

curl -fsSL https://ollama.com/install.sh | sh

设置启动访问IP和模型存储路径：

vim /etc/systemd/system/ollama.service

添加如下：

Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_MODELS=/data/webapp/python/model/cache/ollama"

3. ollama 离线安装

下载安装包，并解压：

tar -C /usr -xzf ollama-linux-amd64.tgz

编写启动服务：

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_MODELS=/data/model/ollama"

[Install]
WantedBy=default.target

重新加载配置：

systemctl daemon-reload

启动服务：

systemctl start ollama

设置开机启动：

systemctl enable ollama

4. windows安装

点击 OllamaSetup.exe直接安装。

设置环境变了修改ollama 的访问IP和模型存储路径。

OLLAMA_HOST=0.0.0.0
OLLAMA_MODELS=D:\model\ollama

访问http://127.0.0.1:11434确认ollama是否启动。

5. 使用ollama

拉模型：

ollama pull qwen2:7b

运行模型：

ollama run qwen2:7b

帮助：

/?

退出：

/bye