Ollama 通过GGUF 文件本地运行任何开源大模型

1、下载 GGUF --》Hugging Face 里搜索下载 (baichuan gguf、qwen gguf)

2、下载文件到本地后 然后在同目录创建一个 txt 文建

Ollama 通过GGUF 文件本地运行任何开源大模型_第1张图片

Ollama 通过GGUF 文件本地运行任何开源大模型_第2张图片3、打开ollama 终端输入:ollama create baichuan2-7b -f Modelflie.txt
创建一个新的模型文件 名字 【baichuan2-7b】 使用 读取 Modelflie.txt 文件

你可能感兴趣的:(笔记,llama,ollama)