从会用AI到真正懂AI：一个普通开发者的折腾之路，以及我为什么选择NCA认证

爷们姓邱

472人浏览 · 2026-06-09 22:31:46

爷们姓邱 · 2026-06-09 22:31:46 发布

有段时间，我的简历上写着"熟练使用AI工具"。

那会儿我确实用得挺溜——ChatGPT帮我写代码、Midjourney出图、各种Prompt技巧也摸得七七八八。然后有一天，我刷到一个国内某大厂的AI工程师JD，要求里写着：“熟悉Transformer架构，有RAG系统开发经验，了解模型量化与推理优化。”

我看着那几个词愣了好一会儿。RAG（检索增强生成，让大模型"查资料"再回答的技术）知道是什么，但真要从零搭一个？Transformer结构读过一篇介绍，但Attention机制的矩阵运算我说不清楚。量化？我只知道模型文件有个4bit版本，跑起来省显存。

我用了两年AI，结果发现自己对AI一知半解。 这种感觉挺难受的。

这篇文章就是想聊聊，从那个懵的时刻开始，我怎么一步步把知识体系补起来，以及为什么最后选择备考NVIDIA NCA认证来做个阶段性验收。

第一阶段：我以为会用就是懂

大概2023年初，我和很多人一样被ChatGPT震到了，开始大量使用各种AI工具。那段时间效率确实高，写代码有Claude辅助、写文档有AI润色、搜资料也不再愁。我甚至觉得，AI时代的开发者就该这样——用好工具就行，底层原理交给模型厂商去操心。

这个想法在我第一次尝试"定制化"需求时彻底崩了。

当时我们团队想做一个内部文档的智能问答，不是随便调个API聊天，而是要能检索公司内部知识库。我去研究，发现搜索结果全是"RAG"、“Embedding”、"向量数据库"之类的词。Embedding我大概知道是把文字变成数字向量，但具体怎么选模型、向量维度对检索质量有什么影响——完全不知道。

折腾了一个月，拼拼凑凑跑起来了，但效果一塌糊涂，问一个问题经常答非所问。我改了无数Prompt，也换了好几个开源库，始终找不到根本原因在哪。

那会儿我终于意识到：会用工具不等于理解工具。 没有底层知识，调参调到天黑也不知道方向。

第二阶段：补课补到怀疑人生

于是从2023年下半年开始，我开始系统地补基础。神经网络、反向传播、注意力机制（Attention，让模型"关注"输入中重要部分的核心机制）、Transformer架构……

说实话，这段时间是我学AI以来最痛苦的阶段。

卡得最久的是Transformer里的自注意力机制（Self-Attention）。理论看了好几遍，但就是不知道它"为什么管用"。后来我换了个思路——把Attention的计算过程手写了一遍，硬算了一个最小的矩阵乘法例子，才真正想通：它本质上是在计算序列中每个词对其他词的"相关性权重"，这样模型才能理解上下文，而不是孤立地处理每个词。

想通那一刻，感觉之前很多东西突然串起来了——为什么大模型能记住长对话、为什么输入太长会变慢、为什么RAG能提升准确率。原理一旦通透，表面的工具就变得可解释了。

但这个阶段也有明显问题：学的东西比较散，今天看LLM原理，明天研究向量数据库，后天又去啃CUDA（NVIDIA开发的并行计算平台，让GPU能跑AI任务的关键技术）基础。没有系统框架，容易陷入"感觉学了很多，但不知道自己到底处于什么水平"的焦虑。

第三阶段：真刀真枪，用项目检验自己

大概2024年初，我逼自己开始做实际项目。

第一个项目是RAG知识库系统。 用Python + LangChain + 向量数据库从零搭了一个能检索公司内部文档的问答系统。第一个月上线效果还是不理想，后来我系统研究了文档切分策略（chunk size对检索质量的影响远比我想的大）、Embedding模型的选择（中文文档用专门的中文Embedding模型效果差异显著），以及Prompt的结构化设计。第二版上线后召回率明显提升，同事开始真正用起来，这才算踏实了。

第二个项目是本地大模型部署实验。 我买了一张二手RTX 3090，开始折腾Llama、Qwen、DeepSeek这些开源模型的本地部署。在这个过程里，我第一次真正接触到显存管理、模型量化（把模型精度从FP32压缩到INT4，大幅减少显存需求但会略微损失精度）、推理框架（vLLM、Ollama等）。中间踩了无数坑：显卡驱动版本不对跑不起来、量化格式不兼容、批处理配置不当导致推理速度拉胯……每个坑都让我多懂了一点底层。

第三个项目是Agent流程实验。 尝试用AutoGen和LangGraph搭了一个多Agent协作原型，让几个模型分工合作完成复杂任务。这个项目让我意识到：Agent的难点不在单个模型能力有多强，而在于任务拆解、状态管理、异常处理——这些都是工程问题，和纯AI研究是两码事。

这三个项目做下来，我感觉自己从"会用AI"变成了"能用AI开发"。但我也意识到知识体系还是有很多空洞，需要一个更系统的方式来梳理和验证。

为什么选NCA认证来做验收

在考虑认证这件事之前，我做过一些比较。市面上主流的AI相关认证有AWS Machine Learning Specialty、Google Professional ML Engineer、以及NVIDIA的NCA系列。

AWS和Google的认证更偏云服务和MLOps（机器学习工程化运维），对云平台操作细节考察比较多，适合深度在这两个生态里工作的人。NVIDIA NCA的侧重点不同——它更聚焦AI技术本身：大语言模型原理、Prompt Engineering、RAG技术、AI开发流程，以及NVIDIA计算生态的理解。

📌 NVIDIA 官方认证入口：https://www.nvidia.cn/training/certification

在这里插入图片描述

NVIDIA 官方认证页面，面向开发者和 IT 专业人员，提供 Associate 和 Professional 两个级别

根据官网最新信息，NVIDIA认证体系目前分为 Associate（NCA） 和 Professional（NCP） 两个级别，覆盖生成式AI、数据科学、AI基础架构等方向。对开发者来说最相关的几个：

NCA-GENM（生成式AI多模态，Associate级）：考察LLM+多模态应用开发，考试时长60分钟，费用960元
NCA-GENL（生成式AI大语言模型，Associate级）：聚焦LLM原理与应用，60分钟，960元
NCP-GENL（生成式AI LLMs，Professional级）：更深入，涵盖模型训练与微调，120分钟，1580元
NCP-AAI（代理式AI，Professional级）：面向AI Agent开发与部署，120分钟，1580元

考试为线下进行，目前每月在北京、上海、深圳设有考场，支持中英文两种语言作答。考试结果即时出分（通过/未通过），证书24小时内发送到邮箱，并通过Credly平台颁发数字徽章，可直接挂到LinkedIn。值得一提的是，官网还提供了认证名录查询，你可以在 Credly 上直接搜索到持证人，对求职背调也有一定帮助。

对我来说，NCA-GENM的考察范围恰好覆盖了这两年补课和实践的核心内容：LLM应用开发、RAG系统、AI Agent的基本概念，以及模型部署相关知识。难度方面，NCA更注重对概念的理解和实际场景判断，而不是死记知识点。备考时间大概4-6周，NVIDIA DLI（Deep Learning Institute）官方有配套课程，官网还特别提供了**“生成式AI认证一站通关”**学习路径，新用户可以免费领一门认证推荐培训，云端有实验环境，可以直接上手练习，质量比第三方资料高出不少。

认证对职业发展有多大用？我的判断是客观的：别把它当成"有了就能找到好工作"的万能钥匙，但对学生、转型者、或需要向外部证明AI能力的人来说，它是个有含金量的客观凭证。NVIDIA在AI算力基础设施领域的地位，让这张证书在行业内有实际认可度。

一个开发者为什么需要了解NVIDIA生态

这里不想列技术名词清单，只想说一个逻辑：今天几乎所有规模像样的AI模型，训练和推理都跑在GPU上，而主流选择大多数是NVIDIA的。

这意味着，CUDA（并行计算平台）不是可选知识，而是理解AI性能瓶颈的基础语言。TensorRT（模型推理优化工具，能让同一张GPU推理速度提升数倍）不是加分项，而是做生产级AI服务必须了解的工具。不需要你从零写CUDA内核，但你至少要知道为什么同一个模型在不同配置下推理速度差那么多——这个知识来自对底层计算逻辑的基本理解。

NVIDIA生态的价值不在于你要把每个工具用精，而在于它构成了AI应用工程化的底层语言。了解这套语言，才能和AI基础设施团队有效沟通，才能在遇到性能问题时知道从哪里找原因。

几条我觉得真正有用的建议

一、从复现一个RAG系统开始。 不要只是调API聊天，也不要上来就啃数学。RAG系统覆盖了AI应用开发的完整链路：文档处理、Embedding、向量检索、Prompt工程、结果评估。做完一个能真正用起来的RAG，对AI应用开发的理解会上一个台阶。推荐用LangChain或LlamaIndex作为框架起点。

二、原理补课要找对入口。 推荐Andrej Karpathy在YouTube上的"Let’s build GPT"系列——他从零用Python实现一个迷你GPT，代码量不大但逻辑极清晰。比看十篇"Transformer原理详解"的博客管用。看完再配合李沐的《动手学深度学习》做练习，基础就差不多立住了。

三、本地跑模型，哪怕只有一张普通显卡。 有条件的话，买张二手3080/3090折腾一下本地部署。量化模型、推理框架、显存管理——这些在纸面上永远没有亲手踩坑来得印象深刻。没有GPU预算，Colab和国内的AutoDL也够用，成本不高。

四、备考NCA，直接用NVIDIA DLI官方资源。 官方认证页面（https://www.nvidia.cn/training/certification）有完整的备考路径和推荐培训，内容设计和考试范围高度吻合，质量远超第三方题库。新用户还有免费课程可以领，没理由不用。