Masked Sequence Autoencoding for Enhanced Defect Visualization in Active Infrared Thermography

在这里插入图片描述

论文：https://arxiv.org/abs/2512.23000
代码：
会议：arXiv
年份：2025

1.拟处理问题

在红外热成像技术已成功应用于多种材料的亚表面缺陷检测的背景下，怎么解决热成像序列存在噪声水平高、缺陷对比度低的问题。
同时，热成像分析领域常采用主成分分析（PCA）等数据处理技术优化缺陷可视化效果 。
然而，主成分分析本质上是线性方法，无法捕捉热成像序列中的非线性模式。
另外还有，去噪自编码器 和一维去噪卷积自编码器，以捕捉热成像数据中的非线性特征。
但上述自编码器仍存在两大缺陷：其一，主动红外热成像自编码器的性能受卷积核感受野限制，难以捕捉长距离依赖关系；其二，这类自编码器需要基于所有像素的热响应进行在线训练，才能充分学习热成像的底层特征，导致计算量巨大。

2. 创新点

1.提出掩码卷积神经网络 - 注意力自编码器（AIRT-Masked-CAAE），可同时捕捉热成像数据中的非线性局部和全局上下文信息；
2.引入具备泛化性的掩码特征自编码策略，实现主动红外热成像序列的高效、快速训练；

3.方法

图2：a) AIRT-Masked-CAAE架构。输入序列首先通过掩码和噪声操作进行干扰处理，被干扰的序列输入到CNN头部，随后经过b)多层次特征注意力模块和c)多头注意力模块。编码后的表征用于生成紧凑的潜在空间，以支持下游缺陷分析任务。

3.1 掩码和噪声操作

对输入$S(n)$进行二进制掩码操作，并添加高斯噪声，得到受损序列$\hat{S}(n)$。$$\hat{S}(n)=M\odot S(n)+\mathcal{N}(0,{\sigma }^2)$$
式中，M 为一维二进制掩码，用于标记可见（1）和掩码（0）区域，$N(0,{\sigma }^2)$为零均值、方差为${\sigma }^2$的加性高斯噪声。

3.2 卷积提取局部特征

将受损序列 $S^{(n)}$ 输入由 $L$ 层卷积层堆叠而成的卷积神经网络头部，提取分层局部特征，公式为：

$$F^{(l)}=\text{ReLU}(W^{(l)}\ast F^{(l-1)}+b^{(l)}),l=1,\dots ,L$$

式中：

$F^{(l)}$ 为第 $l$ 层卷积层得到的特征图
$W^{(l)}$ 和 $b^{(l)}$ 分别为第 $l$ 层卷积层可学习的卷积核和偏置
$\ast$ 表示卷积操作
卷积神经网络头部生成一组分层特征图 $F^{(1)},F^{(2)},\dots ,F^{(L)}$，每张特征图在不同抽象层级编码局部信息，并将其输入多级特征注意力模块。

3.3 多级特征注意力模块

这个模块突出最具判别性的热成像特征图，即适应地为不同卷积层提取的特征分配权重，生成统一的特征表示。

对于每张维度为 $R^{C_m\times H\times W}$ 的特征图 $F^{(m)}$，生成注意力权重图，公式为：

$${\alpha }_m=\sigma (W_m^{(1\times 1)}\ast F^{(m)}+b_m)$$

式中，$W_m^{(1\times 1)}$ 和 $b_m$ 为可学习的 $1\times 1$ 卷积核和偏置，$\sigma (\cdot )$ 为 Sigmoid 激活函数，确保 ${\alpha }_m$ 的取值范围为 $[0,1]$。

最终的注意力特征表示通过以下公式得到：

$$F_{\text{att}}=\sum _{m=1}^L({\alpha }_m\odot F^{(m)})$$

式中，$\odot$ 表示按元素相乘。

3.4 多头自注意力模块

这个模块捕捉输入热成像序列中的长距离依赖关系。
$$F_{MHA}=\text{Multi-Head Self-Attention}(F_{att})$$

3.5 MLP和重构

经过MLP压缩为紧凑的潜在特征表示$z_n$​，该特征表示可用于构建潜在特征图像。
$$z_n=\text{MLP}(F_{\text{MHA}})$$

最后，潜在特征表示$Z_n$​通过一系列卷积层解码，重构出原始的热成像输入数据。
$$\hat{S}(n)=\text{Decoder}(z_n)$$

3.6 重构 - 知识蒸馏联合损失函数

$$L_{total}=L_{rec}+\alpha L_{KD}(10)$$

重构损失
$$L_{rec}=\frac{1}{N}\sum _{i=1}^N{\Vert {\tilde{S}}_i^{(n)}-S_i^{(n)}\Vert }_2^2$$

知识蒸馏损失
$$L_{KD}=1-\frac{⟨z_n,z_n^{\prime }⟩}{\Vert z_n{\Vert }_2\Vert z_n^{\prime }{\Vert }_2}(12)$$

• $N$：批次中的像素数量
• ${\tilde{S}}_i^{(n)}$：第 $i$ 个像素重构后的时间响应
• $z_n^{\prime }$：主成分分析潜在特征向量
• $\alpha$：损失权重系数

4.实验

4.1 信号增强验证

降低数据维度的同时，提升缺陷相对于背景的可视化效果，而缺陷可视化效果的提升通常与后续缺陷分析任务的性能改善相关。

表2：AIRT-Masked-CAAE与先进降维方法在CFRP样本上的对比度和信噪比对比

4.2 消融实验

在这里插入图片描述

表8：消融研究评估掩码序列自编码策略对信号增强、对比度、信噪比的影响，以及基于神经网络的评估、验证和测试交并比(IoU)。

5. 结论

本文提出融合掩码序列自编码策略的卷积神经网络 - 注意力自编码器（AIRT-Masked-CAAE），该框架融合卷积特征提取与注意力机制，实现了局部缺陷特征和长距离依赖关系的平衡捕捉；同时，所提掩码序列自编码方法让网络能聚焦于缺陷相关特征，大幅缩短了训练时间。