抖音等短视频平台的推荐算法,常被形容为“读心术”,但它本质上是一套极其复杂精密的信息过滤与排序系统。它的核心目标,是在数以亿计的内容和用户之间,构建一条高效、精准且能带来惊喜的匹配通道。这个系统并非单一模型,而是一个由多个阶段、无数技术组件构成的庞大工程体系。下面,我将带你从宏观到微观,层层深入地拆解这套“爆款制造机”背后的技术逻辑。

1. 全景漏斗:从内容海洋到你的屏幕

整个推荐流程可以看作一个巨大的漏斗,从上到下,候选视频的范围被逐步缩小,精度则不断提升。这通常包含四个核心阶段:召回、粗排、精排、混排

  • 召回(Retrieval):这是入口阶段,目标是从百亿级的视频库中,快速找出数百个用户可能感兴趣的候选集。这个阶段要求极致的速度和覆盖度,允许一定程度的粗糙,但不能错过任何潜在的好内容。

  • 粗排(Ranking):对上一步召回的数万级候选视频进行初步筛选,用相对简单的模型,快速选出几千个视频传递给下一阶段,起到“承上启下”、过滤噪声的作用。

  • 精排(Ranking):这是整个系统的算力核心。它动用复杂的大模型(如抖音的RankMixer),对几千个候选视频进行极其精细的评分,预测用户对每个视频的完播、点赞、评论、转发等所有行为的概率,最终选出几十个最优视频。

  • 混排(Re-ranking):在得到最终列表后,还需要进行“微调”。这一步会考虑多样性(避免内容太单一)、频次控制(避免看到太多重复内容)、商业策略(广告插入)以及法律法规要求(内容过滤)等,形成最终推送给用户的“信息流”。

2. 核心引擎:多模型协同作战

这个漏斗的高效运转,依赖于背后一系列功能各异的算法模型。

2.1 召回阶段的多路策略

召回不能依赖单一方法,必须“多管齐下”,以保证兴趣的全面覆盖。

  • 兴趣召回:这是最基础的。通过协同过滤,找到和你相似的用户,把他们喜欢的视频推荐给你。例如,基于用户的协同过滤(User-Based CF)和基于物品的协同过滤(Item-Based CF)。

  • 向量召回:利用双塔模型等深度学习技术,将用户和视频分别映射到同一个向量空间中。如果用户的向量和某个视频的向量“距离很近”(例如点积或余弦相似度高),就意味着它们匹配,可以召回。这种方式能捕捉到深层的、难以用标签描述的关联。

  • 热度召回:对于新用户或冷门内容,系统会补充一些当下热门、在全站范围内广受欢迎的视频,以保证基础体验和内容的破圈传播。

  • 社交召回:你关注的人点赞了什么,你朋友喜欢什么,这些也是重要的信号。

2.2 排序阶段的精耕细作

到了精排阶段,模型需要“读懂”你的每一个细微动作。

  • 用户行为建模:这是推荐算法的“石油”。系统会详尽地学习你的历史行为,包括点击、点赞、转发、评论、观看时长、甚至你是反复观看还是快速划走(完播率是核心指标之一)。先进的技术会将你的兴趣拆分为长期偏好(如喜欢看篮球)和短期兴趣(如刚给一个猫咪视频点了赞),并让它们自适应地融合,以适应用户兴趣的实时漂移。

  • 多目标学习:用户的满意是复杂的,不能只追求点击率。因此,推荐模型通常是一个多目标体系,它会同时预测你对一个视频进行完播、点赞、评论、分享、关注作者等多种行为的概率,并通过一个复杂的公式计算出你观看这条内容所获得的“综合价值”。

  • 大模型精排(如RankMixer):为了进一步提升效果,头部平台开始引入超大参数模型。例如,抖音提出的 RankMixer 架构,将精排模型的参数量从千万级提升到了十亿级。它通过创新的 TokenMixing 模块(一种高效的跨特征交互方式)和 Per-Token SparseMoE 技术,在不增加推理成本的前提下,大幅提升了模型的表达能力和预测准确性,为业务带来了显著的用户时长和活跃天数增长。

3. 系统工程:挑战与应对

推荐系统不仅是算法问题,更是一个复杂的系统工程。

  • 大规模训练框架:为了支撑千亿级样本和万亿级参数的模型训练,阿里等公司研发了专门的深度学习框架(如 RecIS),解决数据读取(IO)、Embedding存取(访存)和神经网络计算(计算)这三大瓶颈。

  • 实时性:你的兴趣是实时变化的。系统通过在线学习,能在你做出操作后的极短时间内(如几秒到几分钟)更新模型参数,捕捉你最新的兴趣点。

  • 治理与“信息茧房”:算法并非无所不能,它需要“护栏”。抖音等平台采用“人工+机器”协同的治理模式,对内容进行审核,并对诈骗、网暴等风险进行专项治理。同时,为了对抗“信息茧房”,系统会主动进行多样化推荐,例如通过知识图谱进行跨领域推荐(看了滑板视频后推荐街头文化纪录片),或者在你连续点击同类内容后,穿插一些相关的、但视角不同的内容。

4. 抖音/快手推荐算法全景总结框图

为了帮你更直观地理解整个系统,我准备了一张思维导图,梳理了从海量视频到最终推荐的全流程和关键技术。

总而言之,当你下一次在抖音上刷到让你捧腹或感动的视频时,你看到的不仅是内容,更是一个由数据、算法、算力和无数工程师智慧共同构建的庞大系统,它在理解你、服务你,也在尝试给你带来惊喜。

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐