本文面向当前 Fine-tune + Recency 版本，系统说明 Recency 的设计目标、数学原理。

---

1. 设计目标

在实时流失预测里，我们希望模型满足两点：

1. 对近期行为变化更敏感（干预后能更快下调风险）。
2. 仍保持严格因果（预测时不看未来）。

传统做法通常是直接用最后一步特征 h_t 做分类：logit_k = head_k(h_t)。
这会把历史信息都压缩到单点表示里，近期与久远历史难以显式区分。

Recency 的核心改造是：

• 不再只看 h_t。
• 对前缀 h_1...h_t 做“带时间偏置的加权汇聚”。
• 每个 horizon (K25/K50/K100) 各自学习一套“近期偏好强度”。

---

2. 总体流程（从输入到输出）

给定观测到第 t 步的序列：

1. 先经因果卷积主干得到每步隐状态 h_1...h_t。
2. 对每个 horizon k，计算每个历史步 i<=t 的权重 a_{t,k,i}。
3. 用这些权重做加权和，得到 horizon 专属表示 c_{t,k}。
4. 各 horizon 头分别输出 logit。

形式上：

$$c_{t,k}=\sum _{i\le t}{a}_{t,k,i}{h}_i,{\text{logit}}_{t,k}=hea{d}_k(c_{t,k})$$

---

3. 数学原理

3.1 内容分数（content score）

对于第 i 步、horizon k：

$$s_{k,i}=w_k^{\top }{h}_i+b_k$$

这里 w_k,b_k 由 score_proj 学习，表示“该步内容本身对 horizon k 的重要性”。

3.2 时间偏置（recency bias）

定义 horizon 专属参数：

$${\gamma }_k=\text{softplus}({\text{raw}}_k)\ge 0$$

然后把时间索引偏置加到分数里：

$${\tilde{s}}_{k,i}=s_{k,i}+{\gamma }_k\cdot i$$

在固定 t 的前缀 softmax 中，上式等价于：

$${\tilde{s}}_{k,i}=s_{k,i}-{\gamma }_k(t-i)+\text{const}(t)$$

常数项在 softmax 里会抵消，所以本质是：

• 距当前越远（t-i 越大）惩罚越大；
• \gamma_k 越大，近期偏好越强。

3.3 前缀归一化权重

只在 i\le t 的前缀里做归一化：

$$a_{t,k,i}=\frac{\exp ({\tilde{s}}_{k,i})}{{\sum }_{j\le t}\exp ({\tilde{s}}_{k,j})}$$

这就是最终的 Recency 权重。

---

4. 为什么实现是严格因果

因果性来自两层保证：

1. 主干是因果卷积：h_t 仅依赖 x_{\le t}。
2. 池化是前缀池化：a_{t,k,i} 只在 i<=t 上归一化，且实现用 cumsum 逐步累积，不会引入未来步。

因此在评估时即使一次性喂整段序列，取第 t 步输出时仍是因果的。

---

5. 训练时 gamma 如何被学习

gamma_k 与预测损失联合训练：

• 若近期特征对降低损失有帮助，梯度会推动 gamma_k 变大；
• 若近期信号不稳定，梯度会抑制 gamma_k 增长；
• 最终不同 horizon 会形成不同的时间敏感度。

经验上：

• 短 horizon（如 K25）更容易学出较强近期偏置；
• 但如果启用过早，可能导致短序列排序失真，因此需要 min_obs 保护。

---

6. 与标准 Self-Attention 的区别

Recency 不是标准 QK^T 注意力，主要区别：

1. 没有显式 query-key 两两交互（更轻量）。
2. 权重由“内容打分 + 时间偏置”构成。
3. 用前缀累积实现，复杂度与在线场景更友好。

它更像“带可学习时间衰减的前缀池化”。

---

7. 业务意义：为什么能“更快遗忘旧风险”

干预后若近期行为改善，Recency 会把更多权重放到新近步，早期高风险片段权重下降。
这不是删除历史，而是按时间距离重分配证据贡献。

因此它实现的是“可控遗忘”，不是“无记忆”。

---

8. 一句话总结

Recency 的本质是：
在严格因果前提下，把“前缀历史”从单点读取升级为“按时间距离可学习重加权”的 horizon 专属读取机制。
它解决的是“信息如何读”的问题，不是“主干如何编码”的替代。