3块钱能干什么？

一杯蜜雪冰城都不够。

但有人用3块钱的电费加2个小时，从零训练出了一个能聊天的AI大模型。

这不是段子。是一个在 GitHub 上拿到 41.9k Star 的开源项目，叫 MiniMind。

---

大模型自由，来了

过去两年，所有人都在聊大模型。ChatGPT、Claude、DeepSeek……这些名字你肯定听过。

但你有没有想过：这些模型到底怎么训练出来的？

教科书说得很吓人，海量算力、TB级数据、顶级团队、烧几百万美元。

没说错。但 MiniMind 的作者 Jingyao Gong 证明了，这件事的门槛可以低到什么程度。

单张 3090，2小时，3块钱电费，2600万参数。

GPT-2 是 1.5 亿参数，MiniMind 只有它的六分之一。但该有的全有。

---

从 Tokenizer 到 RLHF，没有藏着掖着

很多开源项目叫"开源"，核心代码一看，一堆封装。

MiniMind 把大模型训练从头到尾的代码全摊开了：

• Tokenizer 训练：把中文切成模型认识的 token
• 预训练（Pretrain）：让模型学会语言规律
• 监督微调（SFT）：教会模型正确回答
• 强化学习（RLHF/DPO/PPO）：让回答更对人类胃口
• 模型蒸馏：把大模型的知识塞进小模型

全部基于 PyTorch 原生实现，没有调包调库的魔法。你可以一行一行看，一行一行改。

调用 API 和理解原理，完全是两回事。MiniMind 选的是后者。

---

26M 参数，够用吗？

说句大实话，2600万参数肯定打不过 GPT-4。

但在 C-Eval、CMMLU、A-CLUE 这些中文评测上，MiniMind2 跑赢了同体量的 GPT2-medium 和 TinyLlama。

项目给了三个规格：

模型	参数量	特点
MiniMind2-Small	26M	极致轻量，2小时能训完
MiniMind2	104M	性能和效率的平衡点
MiniMind2-MoE	145M	混合专家架构，参考了 DeepSeek-V2

另外还有个多模态版本 MiniMind-V，能看图。

---

学 AI 的人应该看看这个

做 AI 方向的学生或转行从业者，大概都有过这种体验：想搞懂 Transformer 的原理，教程翻了几十篇，要么太浅要么太飘。想动手跑一遍训练流程，光配环境就放弃了。

MiniMind 的代码量不大，但每一块都是干净的从零实现。RoPE 位置编码怎么写、SwiGLU 激活函数长什么样、MoE 的专家路由逻辑在哪几行，翻代码就能看到。

训练完的模型还能直接转成 llama.cpp、ollama、vllm 格式部署，不用额外折腾。

---

社区已经玩出花了

41. 9k Star 背后是实打实的使用量。

医疗问答、法律文本生成、联邦学习……各领域的开发者拿 MiniMind 做二次开发。小模型这个方向确实有真实需求。不是每个场景都需要 GPT-4 级别的回答，手机端跑的、本地部署的轻量模型，很多情况下反而更合适。

---

谁适合折腾这个？

AI 学习者，想搞懂大模型原理但找不到好路径的。MiniMind 的代码比大多数教程讲得清楚。

独立开发者，需要在端侧跑轻量模型的。2小时训一个定制模型，成本可控。

研究者，想快速验证想法又不想租贵集群的。一张 3090 的事。

---

写在最后

大模型这波浪潮不会停，但参与的方式不止跟 ChatGPT 聊天这一种。

打开 MiniMind 的代码，跑一遍训练流程，看一个 Transformer 怎么从零搭起来。从"用"到"懂"，这件事的成本已经低到不需要犹豫了。

项目地址：https://github.com/jingyaogong/minimind

这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！

👇👇扫码免费领取全部内容👇👇

1. 成长路线图&学习规划

要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。

这里，我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。

2. 大模型经典PDF书籍

书籍和学习文档资料是学习大模型过程中必不可少的，我们精选了一系列深入探讨大模型技术的书籍和学习文档，它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。（书籍含电子版PDF）

3. 大模型视频教程

对于很多自学或者没有基础的同学来说，书籍这些纯文字类的学习教材会觉得比较晦涩难以理解，因此，我们提供了丰富的大模型视频教程，以动态、形象的方式展示技术概念，帮助你更快、更轻松地掌握核心知识。

4. 2026行业报告

行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

5. 大模型项目实战

学以致用 ，当你的理论知识积累到一定程度，就需要通过项目实战，在实际操作中检验和巩固你所学到的知识，同时为你找工作和职业发展打下坚实的基础。

6. 大模型面试题

面试不仅是技术的较量，更需要充分的准备。

在你已经掌握了大模型技术之后，就需要开始准备面试，我们将提供精心整理的大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。

7. 资料领取：全套内容免费抱走，学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型，还是有基础想冲刺大厂、了解行业趋势，这份资料都能满足你！
现在只需按照提示操作，就能免费领取：

👇👇扫码免费领取全部内容👇👇