【保姆级教程】手把手教你用Ollama部署Qwen3-VL大模型，建议收藏！

python零基础入门小白

5676人浏览 · 2025-11-12 10:31:55

python零基础入门小白 · 2025-11-12 10:31:55 发布

简介

本文详细介绍了Ollama开源平台的安装与配置方法，重点讲解了如何在本地部署通义千问Qwen3-VL大模型。文章从Ollama安装、模型存储路径设置，到版本升级、Qwen3-VL模型安装与使用，提供了完整的操作指南。通过Ollama可视化界面，用户可实现智能问答和图片理解功能，为开发者提供了一种便捷的本地大模型部署方案，适合想要快速上手大模型应用的小白和程序员参考收藏。

一、Ollama概述

Ollama，这是是一个开源的大语言模型平台，它允许用户在本地环境中运行、创建和共享大型语言模型。Ollama提供了丰富的功能和特性，使得用户可以在自己的计算机上轻松地部署和运行大型语言模型。

链接 https://ollama.com/download

下载安装即可。

默认情况下，ollama模型的存储目录如下：

macOS: ~/.ollama/models
Linux: /usr/share/ollama/.ollama/models
Windows: C:\Users.ollama\models

设置新的下载路径：

如果想更改这个默认路径，需要设置一个新的环境变量OLLAMA_MODELS。

这个环境变量应该指向想要保存模型的新目录。

如何设置环境变量：

你可以通过Windows的“系统属性”来设置环境变量。

右键点击“此电脑”或“计算机”，选择“属性”。

点击“高级系统设置”，在弹出的窗口中点击“环境变量”按钮。

在“系统变量”或“用户变量”部分，点击“新建”来创建一个新的环境变量。

输入变量名OLLAMA_MODELS和你选择的目录路径（例如D:\OllamaModels）。

重启Ollama：

设置完环境变量后，需要重启Ollama以使更改生效。

或者重启电脑：为确保更改生效，建议重启电脑。

验证新路径：

可以打开命令提示符（CMD），输入echo %ollama_models%来检查环境变量是否设置成功

启动Ollama后，检查指定的新目录，确保模型被下载并保存在那里。

C:\WINDOWS\system32>echo %ollama_models%D:\ollama

在CMD中输入ollama list命令，查看当前已经存在的模型：

C:\Users\Daniel>ollama listNAME          ID              SIZE      MODIFIEDqwen3:0.6b    7df6b6e09427    522 MB    4 weeks ago

二、Ollama上的Qwen3-VL大模型

Ollama上的Qwen3-VL地址：https://ollama.com/library/qwen3-vl

Qwen3-VL 模型要求 Ollama 0.12.7 版本。

Qwen3-VL 是迄今为止通义千问（Qwen）系列中功能最强大的视觉 - 语言模型。

这一代模型在多个领域实现了升级：文本理解与生成、视觉内容感知与推理、更长上下文支持、空间关系与动态视频理解、AI 智能体交互 ——Qwen3-VL 在每个领域都展现出显著进步。

模型版本

20 亿参数（2B）：ollama run qwen3-vl:2b
40 亿参数（4B）：ollama run qwen3-vl:4b
80 亿参数（8B）：ollama run qwen3-vl:8b
300 亿参数（30B）：ollama run qwen3-vl:30b
320 亿参数（32B）：ollama run qwen3-vl:32b
2350 亿参数（235B）：ollama run qwen3-vl:235b、ollama run qwen3-vl:235b-cloud

核心特性

视觉智能体能力：可操作电脑与移动设备界面，识别图形用户界面（GUI）元素、理解按钮功能、调用工具并完成任务。在 OS World 等基准测试中取得全球顶尖成绩，工具使用显著提升细粒度感知任务表现。
卓越的文本中心性能：采用文本与视觉模态早期联合预训练，持续强化语言能力。文本任务表现与旗舰语言模型 Qwen3-235B-A22B-2507 持平，成为下一代视觉 - 语言模型中真正 “以文本为基础的多模态 powerhouse”。
大幅升级的视觉编程：可从图像或视频生成代码，例如将设计原型转化为 Draw.io、HTML、CSS 或 JavaScript 代码，实现 “所见即所得” 的视觉编程。
更优的空间理解：支持从绝对坐标到相对坐标的二维定位，能判断物体位置、视角变化和遮挡关系。新增三维定位功能，为复杂空间推理和具身智能应用奠定基础。
长上下文与长视频理解：所有模型原生支持 25.6 万个词元（token）上下文，可扩展至 100 万个词元。能输入数百页技术文档、整本书籍甚至两小时长视频，精准记忆并检索细节（含视频精确到秒的内容）。
更强的多模态推理（思考版）：专为理工科（STEM）和数学推理优化。面对复杂学科问题时，可捕捉细节、分步拆解、分析因果，给出符合逻辑的实证答案。在 MathVision、MMMU、MathVista 等推理基准测试中表现优异。
升级的视觉感知与识别：通过优化预训练数据的质量和多样性，可识别更广泛的对象 —— 涵盖名人、动漫角色、产品、地标、动植物等，满足日常生活与专业场景的 “万物识别” 需求。
多语言及复杂场景下的 OCR 优化：光学字符识别（OCR）支持语言从 10 种扩展至 32 种，覆盖更多国家和地区。在弱光、模糊、文本倾斜等复杂真实场景中表现更稳定，生僻字、古文字和专业术语的识别准确率显著提升，长文档理解与精细结构重建能力进一步增强。

三、升级Ollama版本

由于Qwen3-VL要求Ollama的版本0.1.7，我们在安装Qwen3-VL前先通过ollama --version检查当前安装的版本。

C:\Users\Daniel>ollama --versionollama version is 0.12.3

我们需要升级或者重新安装Ollama。以Windows操作系统为例：

访问 Ollama 官网：https://ollama.com/

点击Download for Windows即可。如果下载太慢，可以将地址复制到迅雷下载。

运行安装程序，它会自动覆盖旧版本，最新版本为0.12.10。

安装完成后，查看此时的版本。

C:\WINDOWS\system32>ollama --versionollama version is 0.12.10

之前下载的qwen3:0.6b模型还在。

C:\WINDOWS\system32>ollama listNAME          ID              SIZE      MODIFIEDqwen3:0.6b    7df6b6e09427    522 MB    4 weeks ago

四、安装Qwen3-VL大模型

我们运行ollama run qwen3-vl:2b安装Qwen3-VL大模型

ollama run qwen3-vl:2b

安装完毕后，我们输入问题你是谁，查看回答。

五、使用Ollama界面进行智能问答

安装好Ollama后，会有一个Ollama可视化界面，我们点击打开。

我们在聊天窗口的右下角选择刚刚安装成功的qwen3-vl:2b大模型。

在聊天窗口输入你是谁，查看回答。

本地上传一张图片，让其理解。

可见，2b大小的模型完成了对图片的理解，但大概花了43秒，后续将介绍如何调用Ollama 云端的Qwen3-VL大模型进行图片理解。

六、如何学习AI大模型？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习和面试资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
在这里插入图片描述