概述

ollama + open-webui 可以在本地环境部署如同 OpenAIChatGPT 的大语言模型交互 UI ,部署方法参考[[大语言模型本地部署与使用_ollama_open-webui]] ,但 ollama 的大语言模型文件默认保存在 C 盘 (Windows), 动辄几个GB甚至几十个GB的数据会占据系统盘很大的空间,这里记录一下将模型文件保存在其他路径的设置方法.

ollama 默认的模型保存路径如下:

  • Windows : C:\Users\%username%\.ollama\models
  • MacOS : ~/.ollama/models
  • Linux : /usr/share/ollama/.ollama/models

Windows 修改模型保存位置

注: 原文链接
通过设置环境变量,添加 OLLAMA_MODELS 环境变量,例如 E:\ollama\models,设置完成后重启 ollamaPowerShell,即可完成模型位置的迁移,再次加载或拉取模型文件时生效,如下图所示:

set environment

Linux 修改模型保存位置

注: 原文链接

如果 Ollamasystemd 服务的形式运行,则应使用 systemctl 设置环境变量:

  1. 通过调用 systemctl edit ollama.service 编辑 systemd 服务。这将打开一个编辑器。
  2. 对于每个环境变量,在 [Service] 部分下添加一行 Environment
[Service]
Environment="OLLAMA_MODELS=/home/<username>/ollama_models"
  1. 退出编辑器并保存文本
  2. 重新启动 ollama 服务
systemctl daemon-reload
systemctl restart ollama

参考资料

GitHub 加速计划 / li / linux-dash
13
2
下载
A beautiful web dashboard for Linux
最近提交(Master分支:3 个月前 )
186a802e added ecosystem file for PM2 5 年前
5def40a3 Add host customization support for the NodeJS version 5 年前
Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐