目录

一、历史性突破:Apple官方认证,NVIDIA显卡终于能在Mac上跑了

二、TinyGPU是什么?

三、为什么这对AI开发者是“史诗级利好”?

1. 本地跑大模型,速度暴增

2. 真正“移动AI工作站”

3. 开发体验质变

四、怎么用?极简步骤(官方文档)

五、关键提醒:不是“游戏显卡”

六、意义:Mac生态的重大转折

七、总结


TinyGPU官方驱动获批,Apple Silicon外接显卡时代开启!

一、历史性突破:Apple官方认证,NVIDIA显卡终于能在Mac上跑了

对Mac用户、尤其是AI开发者来说,这是等了6年的重磅消息

2020年苹果转用Apple Silicon(M系列芯片)后,彻底砍掉了对NVIDIA独显、外接显卡(eGPU)的官方支持。AMD显卡也仅有限支持,且不能用于AI计算。想在Mac上用NVIDIA GPU跑大模型、做训练,要么用旧Intel Mac,要么只能远程服务器。

现在,一切变了:苹果正式批准了Tiny Corp开发的TinyGPU驱动。通过Thunderbolt/USB4,Apple Silicon Mac(M1/M2/M3/M4全系列)可直连AMD、NVIDIA外置显卡,且不用关SIP系统安全

这不是民间破解,是苹果官方认证的驱动扩展(DriverKit)

二、TinyGPU是什么?

TinyGPU是AI框架tinygrad旗下的macOS专用工具,核心定位:

  • 专为AI/ML计算:只做GPU计算加速,不支持图形输出、游戏、外接显示器

  • 接口USB4 / Thunderbolt 3/4

  • 支持显卡

    • NVIDIA:Ampere+(RTX 30/40/50系列)

    • AMD:RDNA3+ 最新架构

  • 系统macOS 12.1+

一句话:让Mac用上外置NVIDIA/AMD显卡,专门跑本地大模型、AI推理与训练

三、为什么这对AI开发者是“史诗级利好”?

1. 本地跑大模型,速度暴增
  • M系列GPU强,但显存有限(最高多为64GB),跑7B/13B/34B模型吃力

  • 外接RTX 4090 Ti/5090:24GB–48GB显存CUDA生态全开

  • 实测:LLaMA 3、Qwen、Gemma等模型速度提升5–10倍

2. 真正“移动AI工作站”
  • MacBook Pro + 外置显卡 = 便携+超强算力

  • 不用依赖云GPU,数据本地、隐私安全、成本更低

3. 开发体验质变
  • 支持原生函数调用、智能体工作流

  • 兼容tinygrad、PyTorch、 Hugging Face生态

  • 可本地调试、微调和部署大模型

四、怎么用?极简步骤(官方文档)

  1. 硬件准备

    • Apple Silicon Mac(带Thunderbolt/USB4)

    • 外置显卡坞 + NVIDIA RTX 30/40/50 或 AMD RDNA3+

  2. 安装TinyGPU

    # 下载并安装驱动(官方脚本)curl -fsSL https://raw.githubusercontent.com/tinygrad/tinygrad/master/extra/setup_hipcomgr_osx.sh | sh

    你会看到一条系统提示:“TinyGPU” 想要使用一项新的驱动扩展程序。请点击打开系统设置,并开启 TinyGPU。

    如果你未看到该提示,请前往系统设置 > 通用 > 登录项与扩展 > 驱动扩展,并开启 TinyGPU。

  3.  编译器配置(一次即可)

  • AMD

curl -fsSL https://raw.githubusercontent.com/tinygrad/tinygrad/master/extra/setup_hipcomgr_osx.sh | sh
  • NVIDIA

如果尚未安装,请安装Docker 桌面版。

curl -fsSL https://raw.githubusercontent.com/tinygrad/tinygrad/master/extra/setup_nvcc_osx.sh | sh

确保~/.local/bin已添加到PATH:

export PATH="$HOME/.local/bin:$PATH"
  1. 跑模型示例
    # NVIDIADEV=NV python3 tinygrad/apps/llm.py --model Qwen-7B
    # AMDDEV=AMD python3 tinygrad/apps/llm.py --model Gemma-7B

五、关键提醒:不是“游戏显卡”

  • 仅支持计算无视频输出、不能玩游戏、不能外接显示器

  • 面向开发者:需命令行、懂一点环境配置

  • 安全:苹果官方认证,不用关闭SIP,系统更安全

六、意义:Mac生态的重大转折

这不止是一个驱动,更是苹果开放态度的信号

  • 打破Mac“只能用内置GPU”的封闭历史

  • 让Mac正式进入本地高性能AI计算时代

  • 对AI开发者:Mac终于能和NVIDIA CUDA生态无缝连接

七、总结

TinyGPU + 苹果官方认证 = Apple Silicon外接显卡新纪元

如果你是:

  • AI/大模型开发者

  • 想在Mac本地跑7B/13B/34B模型

  • 讨厌云GPU延迟、成本与隐私问题

现在,一台Mac + 外置NVIDIA显卡 = 最强移动AI工作站

传送门:https://docs.tinygrad.org/tinygpu/

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐