使用工具:ubuntu系统

                  ollama

1.前往ollama官网下载ollamaOllama

复制Linux版本的命令,打开终端输入curl -fsSL https://ollama.com/install.sh | sh

由于ollama是外网,所以下载速度较慢

(解决办法:1.使用魔法节点,下载之后进行解压

                      2.下载网盘软件包,再进行解压)

解压成功后,前往ollama官网寻找下载的模型,这里以Deepseek r1:14b为例

打开终端输入ollama run deepseek-r1:14b,等待一段时间即可。

同样的,在关闭终端之后,如果想通过终端唤醒deepseek此命令同样适用。

接下来通过open-webui来部署一个网站,由此得到一个界面布局,更加方便使用本地模型

2.通过Docker安装open-webui

首先需要安装Docker,通过以下命令安装

curl -fsSL https://get.docker.com | sh

启动Docker

sudo systemctl enable docker
sudo systemctl start docke

验证Docker

docker --version

然后通过以下命令安装Open WebUI

docker run -d \
  --name open-webui \
  -p 3000:8080 \
  -v open-webui:/app/backend/data \
  --add-host=host.docker.internal:host-gateway \
  --restart always \
  ghcr.io/open-webui/open-webui:main

安装之后就可以通过浏览器打开

​​​​​​http://localhost:3000网址,便可以看到登入界面

提示:第一个注册的人是管理员,但是由于这种情况只能做到本机访问,也就是他人不能访问这个网址,所以接下来我们使用frp软件进行内网穿透,使得所有人都能访问这个网址

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐