Token到底是个啥，为啥用完钱就没了

我最近也是没事，就划拉后台账单看看，发现这个月花出去的数比上个月多了快一倍。

我想了半天，没多调几次啊，也没换更贵的模型啊，钱去哪了？

然后我就开始查Token到底是怎么算的。查完之后只有一个感受：我之前花的钱，至少有三成是白花的。

今天把这个搞明白了的东西说说，免得跟我之前一样懵。

很多开发者仍然不清楚Token到底怎么计费——中文比英文贵多少？不同模型差距有多大？缓存命中能省多少钱？本文用最新数据逐个拆解。

Token到底是个啥，我之前一直以为按次数扣钱

说实话，我入坑前几个月一直以为API是"调一次扣一次钱"。

就像打车一样，上车不管远近，起步价嘛。结果不是，人家按字数算。而且这个"字数"还不是你以为的字数，它叫Token。

对了，今年3月国家数据局正式给Token起了个中文名——词元。不过大家日常还是习惯叫Token，就跟WiFi一样。

Token是啥？简单说就是AI理解文字的最小单位。但这个单位和咱们平时说的"一个字"不是一回事。英文大概一个单词一个Token，中文就复杂了，一个字可能是一个Token，也可能是两个，甚至一个常见词组才是一个Token。反正没个准数。

所以你写了一句话，你觉得是10个字，但Token数量可能是12个、15个、甚至20个。

我第一次知道这事儿的时候，脑子里就一个想法：这不是按斤称重嘛？对方说了多少，就按多少算。但你不知道说了多少"斤"，因为秤不在你手上。

中文比英文贵，这个得看模型

我查了一圈才发现，坑不坑取决于你用什么模型。

同样是中文，不同模型消耗的Token差得离谱，这个也不是说海外模型不好——人家英文场景还是很好。但你做中文应用，筛选一个对中文友好的模型，就是实打实的省钱。

你的钱到底花在哪些地方了

搞懂Token之后，我回过头去看自己平时的用法，才发现钱花在了好些我根本没注意的地方。

第一，系统提示词也在算钱。

你以为只发了"帮我写一段产品介绍"，但很多平台默认会在你每次请求前面加一长串系统提示词，什么"你是一个AI助手"、什么安全规则、什么格式要求。这些你看不到，但每一个字都在吃Token。

有一次我查了一下，系统提示词比我自己写的内容还长。我花钱让AI读它自己家的说明书。

第二，聊天记录越来越长，越来越贵。

如果你用的是对话模式，AI每次回复都会带上之前的聊天记录。聊了10轮之后，你发一句"继续"，AI要把之前10轮对话全读一遍。Token消耗蹭蹭涨。

而且这里还有个更隐蔽的坑，上下文窗口对中文特别不友好。128K的上下文窗口，英文能装大概96000个单词，中文呢？只能装大概45000个字。有效利用率不到一半。

我之前那个做客服机器人的朋友，用户跟AI聊了30多轮还没结束。30轮的上下文全塞进去，一次请求就吃掉好多Token。他以为用户只是"聊了一次"，但Token早就爆了。

第三，输出比输入贵。

这个我之前第二篇文章提过，但还是要再说一遍，因为太多人不知道。

你问一句，AI回三段，你花的钱主要是那三段的钱，不是你那句问题的钱。这个差距真的要注意。

几个心得

也不是什么高深的办法，就是几个小习惯，但确实省了不少：

中文应用时筛选中文友好的模型。 这条现在排第一。做中文场景的话光这一项就能省30-60%的Token。

别啥都往Prompt里塞。 你往AI嘴里喂3万字参考资料，它就得读3万字，每一个Token都算钱。先精简一下，只塞相关的部分，效果差不多，钱省一半。

聊天别聊太久。 一个对话到5-6轮就该考虑开新的了。之前的上下文如果还需要，手动贴一段摘要进去就行。

上线之前先跑一遍。 拿真实的Prompt在Playground跑一下，看看实际吃多少Token。别靠猜，猜不中的。我之前猜的和实际差3倍。

留意缓存命中的价格。 这个是我最近才知道的，很多平台有缓存机制，如果你的输入跟之前有重叠（比如系统提示词不变），命中缓存的部分价格会便宜很多。同样的请求，别人不留意缓存价格，你可能多花10倍。

就这些

Token这个事儿吧，搞明白之后其实不复杂，就是一开始没人跟你说清楚。

你现在知道了：按词元算不是按次算、中文比英文贵但选对友好模型能省一大半、系统提示词也在吃钱、聊天越久越贵、输出比输入贵、缓存命中能便宜一百多倍。

就这么几条，心里有数就行了。

后面可能还会聊聊别的话题，但今天先到这。

再说吧。

🔑

收藏本文，下次估API预算时拿出来看一看。如果你还踩过其他Token相关的坑，欢迎评论区一起交流。