技术栈:DeepSeek + Ollama + Docker + Open WebUI
阅读时间:15分钟
难度:⭐⭐☆☆☆
适用系统:Windows / Linux / macOS


前言

2025年最火的大模型是谁?

很多人的答案已经不是GPT。

而是:

DeepSeek

原因很简单:

✅ 中文能力强

✅ 推理能力优秀

✅ 成本极低

✅ 支持本地部署

很多开发者都在问:

能不能像ChatGPT一样,在自己的电脑运行DeepSeek?

答案是:

完全可以

而且部署过程比你想象的简单得多。

今天我们用:

Ollama
+
Docker
+
Open WebUI

搭建一个属于自己的AI助手。


为什么要本地部署?

很多人第一次接触本地大模型都会问:

直接用网页版不好吗?

当然可以。

但本地部署有几个明显优势。


数据隐私

如果你的内容涉及:

公司代码
客户资料
内部文档

上传到公网存在风险。

本地部署:

数据永不离开电脑

免费使用

云端API:

按Token收费

而本地模型:

一次下载
长期使用

离线运行

即使断网:

AI照样工作

整体架构

今天的方案:

浏览器
 ↓
Open WebUI
 ↓
Ollama
 ↓
DeepSeek

职责:

Open WebUI
=
聊天界面

Ollama
=
模型管理器

DeepSeek
=
大脑

环境准备

最低配置:

配置 要求
CPU i5/R5以上
内存 16GB
显卡 可选
磁盘 20GB以上

推荐:

32GB内存
+
RTX 4060以上

体验更好。


第一步:安装Docker

官网下载:

Docker Desktop

安装完成后验证:

docker --version

输出:

Docker version 28.x.x

说明安装成功。


第二步:安装Ollama

官网下载安装:

Ollama

安装完成后:

ollama --version

看到版本号即可。


Ollama是什么?

一句话:

大模型运行时

类似于:

Docker运行容器

Ollama运行模型

第三步:下载DeepSeek

拉取模型:

ollama pull deepseek-r1:7b

下载完成后查看:

ollama list

输出:

NAME

deepseek-r1:7b

模型版本怎么选?

常见版本:

模型 推荐配置
1.5B 8GB内存
7B 16GB内存
14B 32GB内存
32B 64GB内存

新手推荐:

7B

性能和资源占用比较均衡。


第四步:启动模型

运行:

ollama run deepseek-r1:7b

测试:

你好,请介绍一下自己

如果模型开始回答:

部署成功

第五步:安装Open WebUI

直接启动容器:

docker run -d \
-p 3000:8080 \
--name open-webui \
-v open-webui:/app/backend/data \
ghcr.io/open-webui/open-webui:main

等待启动完成。

浏览器打开:

http://localhost:3000

即可进入界面。


Open WebUI是什么?

简单理解:

ChatGPT界面

支持:

✅ 多模型

✅ 多会话

✅ 文件上传

✅ 知识库

✅ MCP扩展


连接Ollama

进入:

Settings
↓
Connections
↓
Ollama

填写:

http://host.docker.internal:11434

保存。

刷新页面。

即可看到:

DeepSeek-R1

实际效果

现在你拥有了:

自己的ChatGPT

支持:

聊天
写代码
翻译
总结文档
生成报告

完全本地运行。


上传PDF分析

Open WebUI支持:

PDF
Word
Excel
Markdown

上传后直接提问:

总结这份文档

即可分析内容。


搭建个人知识库

很多人最喜欢这个功能。

上传:

公司文档
产品手册
技术资料

之后提问:

根据知识库回答问题

AI即可基于私有数据回答。

这其实就是:

RAG

技术。


性能优化技巧

开启GPU

查看:

nvidia-smi

确认显卡正常。


降低显存占用

选择:

7B模型

而不是:

32B模型

SSD存储

模型文件较大。

建议:

NVMe SSD

加载速度明显更快。


常见问题

模型下载慢

解决:

使用镜像源

或者科学网络环境。


Docker启动失败

检查:

docker ps

查看容器状态。


Open WebUI无法连接Ollama

确认:

ollama serve

已经启动。


本地部署与云端对比

项目 本地部署 云端
成本 ⭐⭐⭐⭐⭐ ⭐⭐
隐私 ⭐⭐⭐⭐⭐ ⭐⭐
部署难度 ⭐⭐⭐ ⭐⭐⭐⭐⭐
推理速度 ⭐⭐⭐⭐ ⭐⭐⭐⭐⭐

适合哪些人?

推荐:

✅ 程序员

✅ 学生

✅ AI开发者

✅ 企业内部团队

不推荐:

❌ 配置过低电脑

❌ 完全不懂电脑操作


总结

如果你想拥有:

自己的ChatGPT

自己的知识库

自己的AI助手

那么:

Ollama
+
DeepSeek
+
Open WebUI

是目前成本最低、效果最好的方案之一。

整个部署过程不到30分钟。

但带来的价值远远超过30分钟。

因为从此以后:

你的AI
由你掌控

⭐ 如果本文对你有帮助,欢迎点赞、收藏、关注。

下一篇:

《RAG知识库实战:让AI学会你的私有文档(PDF+Word+Excel)》

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐