本地部署 Qwen 7B / 14B 完整方案

适用于：

• IntelliJ IDEA AI 编码
• 本地 ChatGPT
• Java / SpringBoot 开发辅助
• 完全免费
• 完全本地运行
• 快速高效完成工作，大幅度减少加班概率。

推荐组合：

Ollama
+
Chatbox
+
Qwen2.5-Coder

---

一、最终效果（你会得到什么）

部署完成后，你可以：

✅ 本地 AI 聊天
✅ Java 代码生成
✅ SpringBoot 辅助
✅ SQL 优化
✅ IDEA AI 编码
✅ 模型自由切换（7B / 14B）
✅ 完全离线
✅ 不花钱

---

二、你的电脑配置（完全够用）✅

推荐最低配置：

项目	情况
芯片	M4 Pro
内存	24G
系统	macOS

---

三、整体架构（非常简单）

Chatbox（图形界面）
        ↓
Ollama（模型管理）
        ↓
Qwen2.5-Coder（AI模型）

---

四、第一步：安装 Ollama

方式1（推荐，最简单）

官网下载：

Ollama Download for macOS

下载安装即可。

---

验证安装

打开终端：

ollama -v

如果显示版本号：

ollama version is ...

说明成功。

---

五、第二步：下载并运行 Qwen 模型

---

1. 下载 Qwen 7B（推荐先装）

终端执行：

ollama run qwen2.5-coder:7b

第一次会：

• 自动下载模型
• 大约 5GB
• 需要几分钟

下载完成后：

会直接进入聊天界面。

---

2. 下载 Qwen 14B（后续再装）

执行：

ollama run qwen2.5-coder:14b

第一次：

• 下载约 9~10GB
• 稍慢

---

六、第三步：查看本地模型

执行：

ollama list

你会看到：

NAME
qwen2.5-coder:7b
qwen2.5-coder:14b

---

七、第四步：安装 Chatbox（图形界面）

官网：

Chatbox AI

下载安装 Mac 版本。

---

八、第五步：连接 Ollama

打开 Chatbox：

---

配置步骤

1. 设置模型提供商

选择：

Ollama API

---

2. API 地址

填写：

http://localhost:11434

---

3. 获取模型

点击：

Get Models

会自动识别：

qwen2.5-coder:7b
qwen2.5-coder:14b

---

九、第六步：开始使用 🎉

现在你已经拥有：

本地 AI 工作站

了。

---

你可以直接问：

Java 开发

帮我生成 SpringBoot + MyBatisPlus CRUD

---

SQL 优化

帮我优化这个 SQL

---

并发问题

解释这个线程池为什么会阻塞

---

十、7B 与 14B 的推荐使用方式 ⭐

模型	推荐场景
7B	日常开发
14B	深度分析

---

推荐工作流（重要）

日常：

使用：

7B

优点：

✅ 快
✅ 省资源
✅ 回答速度舒服

---

复杂问题：

切换：

14B

适合：

• Spring源码
• JVM
• SQL优化
• 架构分析

---

十一、模型管理（非常重要）

---

查看正在运行的模型

ollama ps

---

停止某个模型

ollama stop qwen2.5-coder:14b

---

删除模型

ollama rm qwen2.5-coder:14b

---

十二、资源占用（适合你的机器）

模型	内存占用	推荐度
7B	6~8G	⭐⭐⭐⭐⭐
14B	12~16G	⭐⭐⭐⭐

---

推荐策略 ⭐⭐⭐⭐⭐

常驻：

7B

---

临时使用：

14B

这是你这台 Mac 最舒服的方案。

---

十三、后续推荐（可选）

后面你还可以接入：

工具	作用
Continue	IDEA AI 编码
Supermaven	AI 自动补全
Open WebUI	本地知识库

---

十四、最终结论 ⭐⭐⭐⭐⭐

Ollama
+
Chatbox
+
Qwen2.5-Coder 7B