AMD 显卡安装 Ollama 完整教程(Windows 版)

基于 Ollama 官方 AMD/ROCm 6.4.2 演示版

支持显卡:gfx1030——gfx1036、gfx1100/1101/1103、gfx1150——1153、gfx1200/1201 等

本教程*RX 6700 XT(gfx1031)为例,其他支持显卡通用


目录

1. 准备工作

1.1 确认显卡是否支持

Ollama AMD 版支持以下架构(节选):

  • gfx906

  • gfx1010 / gfx1012

  • gfx1030 / gfx1031 / gfx1032 / gfx1034 / gfx1035 / gfx1036

  • gfx1100 / gfx1101 / gfx1103

  • gfx1150 / gfx1151 / gfx1152 / gfx1153

  • gfx1200 / gfx1201

若你的显卡 gfx 架构不在列表内,将报 amdgpu is not supported错误,只能用 CPU 模式。

如何查看自己的 gfx 架构?

  • 桌面端:可使用 GPU-Z 查看 “Compute Units / GFX Family”

  • 或通过 ROCm 工具查看(进阶)
    rocm.docs.amd.com

1.2 下载所需文件

从仓库获取以下文件:


2. 安装 Ollama

2.1 安装官方客户端

  1. 双击运行 OllamaSetup.exe完成安装

  2. 安装完成后,Ollama 默认路径为:

    C:\Users\<你的用户名>\AppData\Local\Programs\Ollama
    

3. 替换 ROCm 文件

3.1 清空旧 ROCm 目录

  1. 进入:

    C:\Users\<你的用户名>\AppData\Local\Programs\Ollama\lib\ollama\rocm
    
  2. 删除该目录下的所有内容
    在这里插入图片描述

3.2 解压并覆盖

  1. 解压 ollama-windows-amd64-rocm.7z

  2. 安装或解压: 下载并安装 官方 OllamaSetup.exe,删除整个 rocm 文件,并 替换此存储库中C:\Users\usrname\AppData\Local\Programs\Ollama\lib\ollama\rocm 的内容。ollama-windows-amd64.7z
    在这里插入图片描述

  3. 再次解压 ROCmLibs for 6.4.2
    在这里插入图片描述

  4. 用其中的 rocblas.dll和 rocblas\library\ 文件夹,分别替换\rocm 目录下同名文件/文件夹

    • 在 Ollama 安装文件夹中找到该rocblas.dll文件和文件夹。
      `C:\Users\usrname\AppData\Local\Programs\Ollama\lib\ollama\rocm
      在这里插入图片描述
      在这里插入图片描述

⚠️ 必须保证:

  • rocblas.dllrocblas\library来自同一套 ROCm 6.4.2

  • 不要混入旧版本 DLL 或 System32 里的文件


4. 重启电脑

AMD ROCm DLL 存在缓存,必须重启系统才能让新 DLL 生效。


5. 验证安装

5.1 命令行测试

打开 CMD,执行:

ollama run llama3

观察输出前几行,应出现:

using device: gpu

如显示 using device: cpu,则 ROCm 未生效,需检查 DLL 版本和路径。

5.2 启动 GUI

双击 Ollama 图标,正常应可启动并连接本地服务。

若仍打不开,请检查:

  • 所有 DLL 是否来自同一 ROCm 6.4.2

  • 是否误删/漏复制了 rocfft.dllrocrand.dllhipblas.dll


6. 常见问题

问题 可能原因 解决方法
amdgpu is not supported 显卡 gfx 不在支持列表,或 DLL 版本混用 确认 gfx 架构;统一使用 ROCm 6.4.2 的 DLL
GUI 打不开,但 CMD 能用 某几个 DLL 版本不一致,或残留旧文件 按 3.1~3.2 重做替换,并重启
只能 device: cpu 使用了 APU 的 iGPU 或 DLL 未生效 换独显或重装 ROCm 6.4.2 并重启
模型加载极慢 未使用 GPU 或显存不足 确认 using device: gpu;减少模型规模

7. 总结

  • 本教程适用于 支持列表内的 AMD 独显(如 RX 6700 XT gfx1031)

  • 核心步骤:

    1. 安装官方 Ollama

    2. 清空并替换 rocm目录

    3. 保证所有 DLL 来自 同一套 ROCm 6.4.2

    4. 重启

    5. ollama run验证 GPU 是否生效

  • 若你使用 APU(iGPU),大概率无法使用 GPU 模式,可改用 CPU 模式或升级到支持列表内的独显


💬 有问题欢迎留言讨论

如果你在操作中遇到报错,可以留言,我会帮你分析解决。

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐