概述

ollama + open-webui 可以在本地环境部署如同 OpenAIChatGPT 的大语言模型交互 UI ,部署方法参考[[大语言模型本地部署与使用_ollama_open-webui]] ,但 ollama 的大语言模型文件默认保存在 C 盘 (Windows), 动辄几个GB甚至几十个GB的数据会占据系统盘很大的空间,这里记录一下将模型文件保存在其他路径的设置方法.

ollama 默认的模型保存路径如下:

  • Windows : C:\Users\%username%\.ollama\models
  • MacOS : ~/.ollama/models
  • Linux : /usr/share/ollama/.ollama/models

Windows 修改模型保存位置

注: 原文链接
通过设置环境变量,添加 OLLAMA_MODELS 环境变量,例如 E:\ollama\models,设置完成后重启 ollamaPowerShell,即可完成模型位置的迁移,再次加载或拉取模型文件时生效,如下图所示:

set environment

Linux 修改模型保存位置

注: 原文链接

如果 Ollamasystemd 服务的形式运行,则应使用 systemctl 设置环境变量:

  1. 通过调用 systemctl edit ollama.service 编辑 systemd 服务。这将打开一个编辑器。
  2. 对于每个环境变量,在 [Service] 部分下添加一行 Environment
[Service]
Environment="OLLAMA_MODELS=/home/<username>/ollama_models"
  1. 退出编辑器并保存文本
  2. 重新启动 ollama 服务
systemctl daemon-reload
systemctl restart ollama

参考资料

GitHub 加速计划 / li / linux-dash
10.39 K
1.2 K
下载
A beautiful web dashboard for Linux
最近提交(Master分支:1 个月前 )
186a802e added ecosystem file for PM2 4 年前
5def40a3 Add host customization support for the NodeJS version 4 年前
Logo

旨在为数千万中国开发者提供一个无缝且高效的云端环境,以支持学习、使用和贡献开源项目。

更多推荐