背景： 某手机端侧 AI 项目，目标：在骁龙 NPU 上部署图像超分 / 增强模型，要求单帧推理延迟＜25ms，功耗＜800mW，精度 PSNR≥33dB。 算法工程师给出一套模型 + 压缩方案，AI 项目经理做全流程评估、落地判断、风险把控。

一、算法工程师（模组侧）提交方案

我们训练了一个 120M 大参数量的图像增强基础模型，精度 PSNR=34.8dB。 为了部署到手机 NPU，我们的压缩方案：

1. 先用知识蒸馏：用 120M 大模型当老师，训一个 25M 学生小模型；
2. 再做非结构化剪枝，剪掉 40% 权重；
3. 最后INT4 量化； 预期：最终模型 3M 左右，推理延迟 20ms，PSNR≈33.2dB，满足指标。 计划 2 周完成压缩实验，1 周部署调优，总周期 3 周。

二、AI 项目经理逐项评估（核心：可行性、落地、风险、排期、验收）

1. 技术可行性评估（懂量化 / 剪枝 / 蒸馏的价值体现）

（1）蒸馏部分

• 优点：大模型知识迁移，小模型精度保留好，这个思路没问题
• PM 判断：蒸馏可行，但周期要加量 25M 学生模型蒸馏训练，需要多轮迭代、数据增强、损失函数调优，2 周做不完，至少预留 3 周。

（2）剪枝部分：最大硬伤

工程师用的是非结构化剪枝（零散删权重）

• PM 知识点：非结构化剪枝后权重稀疏，手机 NPU / 高通 SNPE 不支持稀疏加速，剪了白剪，速度几乎不提升，部署极难。
• PM 结论：方案不可行，必须改成结构化剪枝（剪通道、剪层），否则剪枝无效，直接导致延迟超标。

（3）量化部分：INT4 风险极高

• PM 知识点：骁龙中端 NPU 对 INT4 支持差，算子兼容差，容易出现： 推理异常、暗角、噪点、PSNR 跳水、部分场景精度暴跌； INT8 兼容性最好、最稳。
• PM 判断：直接上 INT4 太激进，优先 INT8 兜底，INT4 做备选。

（4）整体指标可行性

原方案：3M、20ms、33.2dB PM 修正后合理区间： 结构化剪枝 + 蒸馏 + INT8 → 8–10M，延迟 22–24ms，PSNR≥33.5dB，指标更稳、可落地。

2. 落地部署评估（PM 最核心工作）

1. 硬件约束：手机端 NPU 只支持结构化模型、标准算子；非结构化剪枝直接部署失败。
2. 工具链约束：高通 SNPE 对 INT4 支持有限，要做算子替换、层融合，工作量大。
3. 联调依赖：需要硬件工程师、NPU 优化工程师配合，工程师没预留联调时间。
4. 交付物：算法只给模型权重，没给推理 demo、异常 case 测试集，落地缺少验证标准。

3. 风险识别 & 风险等级（PM 必须提前揪坑）

1. 高风险：非结构化剪枝无法加速，部署失败，项目延期
2. 高风险：INT4 量化导致精度波动，暗光 / 夜景场景 PSNR 暴跌，不达标
3. 中风险：蒸馏训练周期预估严重不足，排期不可信
4. 中风险：缺少异常场景测试（夜景、逆光、动态场景），上线后出 bug
5. 低风险：功耗随延迟波动，高温场景功耗超标

4. PM 最终优化后的可执行方案（输出给算法 + 团队）

调整后方案（PM 拍板）

1. 蒸馏保留：120M 大模型蒸馏出 25M 学生模型，预留 3 周训练调优；
2. 剪枝改为：结构化通道剪枝，剪 25% 通道，保证 NPU 可加速；
3. 量化改为：先 INT8 量化兜底交付，后期优化再尝试 INT4；
4. 增加约束：必须做暗光、逆光、复杂纹理场景的精度测试；
5. 排期重排：蒸馏 3 周 + 剪枝量化 1 周 + NPU 部署联调 2 周，总周期 6 周；
6. 验收标准：延迟＜25ms、功耗＜800mW、全场景 PSNR≥33dB。

5. PM 对该方案的总结（可直接面试口述）

算法工程师更多关注算法精度、模型理论效果，容易忽略硬件兼容性、部署可行性、工具链限制、真实场景风险。 我作为 AI 项目经理，通过对量化、剪枝、蒸馏的落地特性的理解，识别出非结构化剪枝无效、INT4 兼容性差、排期低估等核心问题，调整技术路线，平衡精度、性能、硬件约束，重新规划周期与验收标准，规避上线翻车风险，保障项目稳定交付。