01 论文信息

• 论文题目：PAF: Perturbation-Aware Filtering for Open-Set Semi-Supervised Learning
• 论文作者：Yinan Han and Qing-Yuan Jiang
• 发表单位：南京理工大学，南京大学 新型软件技术国家重点实验室
• 发表会议：CVPR 2026
• 代码链接 : https://github.com/njustkmg/CVPR26-PAF

02 论文主要贡献

1. 提出了一种新颖的扰动感知过滤（PAF）方法，该方法通过测量语义保留扰动下的表示不稳定性来动态识别分布外样本。
2. 设计了一个双阶段训练框架，使PAF适配开放集半监督学习（OSSL）场景，该框架有效融合了有限的标注数据与大量的未标注数据，提升了PAF的性能。
3. 为扰动下分布内（ID）样本与分布外（OOD）样本之间的敏感度差距提供了理论依据，并从李普希茨边际的角度刻画了其与决策边际之间的关系。
4. 全面的实验结果表明该方法在广泛使用的 OSSL 基准测试上取得了优于现有最先进方法的性能。

现存问题

• 半监督学习中，现有方法多依靠置信度、决策边界、不确定性识别 OOD，忽略了同分布（ID）样本和分布外（OOD）样本对保留语义的扰动的不同敏感度，导致模型性能未达最优。
• 仅用置信度波动判断 OOD，区分能力弱于表征层面变化。置信度本质只是深层表征不稳定性的浅层反映。
  
  如图为两组箱线图，证明：相比于扰动下的置信度波动，扰动下的深层表征不稳定性对分布内（ID）与分布外（OOD）样本的区分能力更强，为全文提出表征级 OOD 过滤的 PAF 方法提供实验依据。

03 论文创新点

（1）提出扰动感知过滤（PAF）方法：用扰动下的深层表征不稳定性作为 OOD 判别信号，结合 Otsu 自适应阈值实现更精准的 OOD 样本过滤
（2）构建两阶段协同训练框架：第一阶段通过表征一致性正则化、旋转预测自监督任务与独立投影头，学习扰动不变的鲁棒语义表征，为 OOD 过滤奠定基础；第二阶段引入扰动感知过滤（PAF）动态筛选 ID 样本，通过不稳定性加权伪标签机制，在抑制 OOD 噪声的同时高效利用无标签数据。

04 方法

4.1 核心方法框架

（a）为双阶段训练框架，（b）为扰动感知过滤PAF

4.1.1 扰动感知过滤

1. 将无标签样本输入图像编码器，提取原始深层表征；
2. 对输入样本进行语义保留扰动，再提取扰动后的表征；
3. 用均方误差（MSE）计算原始表征与扰动后表征的差异，该差值即为表征不稳定性分数；
4. 基于Otsu大津法自动计算批次级（batch-wise）自适应阈值—— 阈值会根据当前批次内所有无标签样本的不稳定性分数分布动态生成，无需人工预设固定值，可自适应训练过程中的特征分布变化。不稳定性分数低于阈值的判定为 ID 样本，送入后续伪标签训练；高于阈值的判定为 OOD 样本，不参与训练。

4.1.2 双阶段框架

1. 有标签样本：一路做弱增强输入主分类分支，另一路做扰动变换用于表征一致性计算。
   无标签样本：经多角度旋转变换后，分别输入一致性分支和旋转预测分支，在第二阶段还会经过PAF筛选后参与伪标签训练。

2. 任务分支
   （1）主分类分支（Softmax Head）
   输入样本的深层表征，输出K个已知类别的分类概率，对应两类损失：
   ${\mathcal{L}}_{ce}$：标准交叉熵损失，用有标签样本的真实标签计算，是监督分类的基础损失。
   ${\mathcal{L}}_u$（第二阶段）：不稳定性加权伪标签损失。对PAF筛选后的无标签ID样本，以弱增强视图的预测结果为伪标签，监督强增强视图的预测；同时按表征稳定性分配训练权重，越稳定的样本权重越高。
   （2）表征一致性分支（${\mathcal{L}}_{con}$）
   第一阶段仅作用于有标签样本，通过约束扰动前后的表征一致性学习鲁棒特征；第二阶段仅作用于经 PAF 筛选后的无标签 ID 样本，而非全部无标签数据全程参与。
   计算同一样本两个不同扰动视图的表征的均方误差，使模型学习扰动不变的鲁棒表征。这是后续 PAF 能区分 ID/OOD 的前提。
   （3）旋转预测分支（Rotation Head）
   首先，旋转预测任务作用于所有样本，通过自监督任务提升骨干网络的语义表征能力。
   输入旋转后的样本表征，输出0°/90°/180°/270°四种旋转角度的分类概率，对应${\mathcal{L}}_{rot}$旋转损失。使骨干网络学习更丰富的图像语义结构，提升特征判别力。

• 第一阶段：${\mathcal{L}}_{ce}+{\mathcal{L}}_{con}+{\mathcal{L}}_{rot}$，夯实骨干网络的特征基础；
• 第二阶段（开集半监督训练）：加入${\mathcal{L}}_u$，执行PAF过滤无标签数据，用筛选后的ID样本做伪标签训练。

05 实验分析

对比了多种主流方法在四个数据集上的分类准确率，每个数据集测试了两种 OOD 占比，本文提出的方法在所有数据集、所有 OOD 占比设置下均取得了最优结果，尤其在高 OOD 占比场景下，抗噪声能力更强，领先优势更明显。

对比了4 种开放集半监督基线方法与本文方法在四个数据集上的分类准确率，每个数据集测试了两种 OOD 占比，本文方法在所有数据集、所有 OOD 占比设置下均取得了最优性能

验证了不同OOD数据场景下的模型性能，本文方法在 TIN、LSUN、高斯噪声、均匀噪声这 4 类不同类型、3 种不同规模（250/1000/4000）的 OOD 干扰下，分类准确率均优于对比基线，且在大规模未知样本干扰下性能衰减幅度更小。

消融实验

验证 PAF 模块的有效性

验证了论文提出的 PAF 方法中各关键组件的有效性

对比 表征过滤（Representation Filtering，即 PAF 方法）与置信度过滤（Confidence Filtering） 两种 OOD 检测策略的效果。图 (a)：分布内（ID）样本保留率，图 (b)：分布外（OOD）样本过滤率。说明：相比传统置信度过滤，本文提出的表征级过滤策略（PAF）既能更有效地滤除 OOD 样本，又能更高比例地保留 ID 样本，在两者之间实现了更优的平衡。

PAF 模块的最优配置为：扰动次数 $K_a=10$、缩放因子 $\gamma =1.0$、采用 Otsu 自适应阈值，三者共同实现了最佳的 ID/OOD 区分效果。但本文默认采用$K_a=1$以平衡性能与计算效率

PAF 方法在开集半监督图像分类任务中表现出色。

06 结论

本文提出一种名为扰动感知过滤（PAF）的新型开放集半监督学习（OSSL）方法，该方法通过度量语义保持扰动下的表示不稳定性，动态区分分布内（ID）样本与分布外（OOD）样本。本文将PAF集成到两阶段框架中：第一阶段充分利用大量未标记数据，第二阶段启用PAF以实现可靠的分布内-分布外分离。本文还为所提方法提供了理论依据。在MNIST、CIFAR-10、CIFAR-100和TinyImageNet数据集上的大量实验表明，该方法性能优于现有方法。此外，通过消融实验验证了方法各组件的有效性，证明了整体设计的合理性。