Ollama模型地址

Ollama模型地址


由于Ollama下载的大模型的大小都较为庞大,一般的都是几个G,对磁盘空间要求不小。因此需要关注其存储占用的空间问题。因此一个关键问题就是,Ollama模型的存放位置。(用容器来安装可以方便管理空间、服务,因此建议使用容器安装Ollama,请见创建过程

以下内容不是很完善,仅供参考:

默认情况下,ollama模型的存储目录如下:
macOS: ~/.ollama/models
Linux: /usr/share/ollama/.ollama/models
Windows: C:Users.ollamamodels
在Linux中,Ollama默认将模型存放在/usr/share/ollama中,但是该文件夹可能在系统盘,空间有限,无法存放数据量庞大的大模型。 因此需要更改大模型存放的位置。

可以使用df -h <文件夹名称>来查看该文件夹所处的位置:

使用sudo rsync -av /usr/share/ollama/ <模型存放新的位置>将模型同步过去(也可以用rm剪切过去)。过程见图1图2.

注意:需要管理员root权限或者将用户加入sudo用户组才能操作!

如果 Ollama 以 systemd 服务的形式运行,则应使用 systemctl 设置环境变量:
通过调用 sudo vim /etc/systemd/system/ollama.service 编辑 systemd 服务。这将打开一个编辑器。
对于每个环境变量,在 [Service] 部分下添加一行 Environment(示例|参考

# 重新启动Ollama服务
sudo systemctl start ollama
*退出编辑器并保存文本
重新启动 ollama 服务
sudo systemctl daemon-reload
sudo systemctl restart ollama
ollama serve



查看sudo ls -la ollama/.ollama/models

#查看模型文件夹大小:
sudo du -sh ollama/.ollama/models/blobs
46G     ollama/.ollama/models/blobs
sudo du -sh ollama/.ollama/models/manifests
8.0K    ollama/.ollama/models/manifests


#查看路径:
echo $OLLAMA_MODELS
#写入环境配置文件并重新加载配置文件:
echo 'export OLLAMA_MODELS=/share/users_root/hqx_bai/byp/software/OllamaModels' >> ~/.bashrc
source ~/.bashrc
#再次查看:
echo $OLLAMA_MODELS
/share/users_root/hqx_bai/byp/software/OllamaModels

ls -ld /share/users_root/hqx_bai/byp/software/OllamaModels
drwxr-xr-x 5 hqx_bai default_os_group 66 8月   5 12:39 /share/users_root/hqx_bai/byp/software/OllamaModels
chmod 775 /share/users_root/hqx_bai/byp/software/OllamaModels
ls -ld /share/users_root/hqx_bai/byp/software/OllamaModels
drwxrwxr-x 5 hqx_bai default_os_group 66 8月   5 12:39 /share/users_root/hqx_bai/byp/software/OllamaModels

更改地址后报错




BypInformation