张量‑深度神经网络混合模型用于阵列信号处理：一种公式化框架

在阵列信号处理（如DOA估计、波束形成、源分离）中，接收数据天然具有多维结构：空间、时间、频率、快拍或极化。引入张量表示可保留高阶关联，进一步与深度神经网络（DNN） 结合，能够学习复杂的非线性映射或隐式正则化。本文给出三种典型融合架构的数学模型。

1. 阵列接收信号的张量模型

考虑一个均匀线性阵列（ULA）有 $M$ 个阵元，接收 $K$ 个远场窄带信号，$L$ 个快拍。传统快拍数据矩阵 $\mathbf{Y}\in {\mathbb{C}}^{M\times L}$ 为

$$\mathbf{Y}=\mathbf{A}(\mathbf{\theta })\mathbf{S}+\mathbf{N}$$

其中 $\mathbf{A}(\mathbf{\theta })\in {\mathbb{C}}^{M\times K}$ 为流形矩阵，$\mathbf{S}\in {\mathbb{C}}^{K\times L}$ 为信号波形，$\mathbf{N}$ 为噪声。

为引入张量结构，可构建三阶张量 $\mathcal{Y}\in {\mathbb{C}}^{M\times L\times Q}$（例如：$Q$ 个频点、或 $Q$ 个脉冲、或利用极化多样性）：

$$\mathcal{Y}=\mathcal{A}{\times }_2\mathbf{S}+\mathcal{N}$$

更一般的四阶张量（阵元 × 快拍 × 频率 × 极化）：

$$\mathcal{Y}(m,l,f,p)=\sum _{k=1}^K{a}_m({\theta }_k)s_{l,k}{\varphi }_f({\theta }_k){\psi }_p({\theta }_k)+\mathcal{N}(m,l,f,p)$$

其中 $a_m({\theta }_k)$ 为空间响应，$s_{l,k}$ 为快拍波形，${\varphi }_f({\theta }_k)$ 为频域响应，${\psi }_p({\theta }_k)$ 为极化响应。

2. 深度神经网络模块的基本定义

记一个 $L$ 层前馈神经网络为

$${\mathbf{h}}^{(0)}=\mathbf{x},{\mathbf{h}}^{(\ell )}={\sigma }_{\ell }\left({\mathbf{W}}^{(\ell )}{\mathbf{h}}^{(\ell -1)}+{\mathbf{b}}^{(\ell )}\right),\hat{\mathbf{y}}={\mathbf{h}}^{(L)}$$

其中 ${\mathbf{W}}^{(\ell )}$ 为权重，${\mathbf{b}}^{(\ell )}$ 为偏置，${\sigma }_{\ell }$ 为激活函数（如ReLU、Tanh）。对于张量输入，需进行向量化或使用张量层。

3. 混合模型架构

3.1 模型 A：张量预处理 + 深度神经网络（T‑DNN）

接收张量 $\mathcal{Y}$ 首先经过张量收缩或特征提取，得到一个低维特征向量 $\mathbf{z}$，再输入DNN完成最终估计（如DOA角度）。

步骤1：张量预处理（典型：Tucker压缩或CP特征）

• Tucker压缩：
  $$\mathcal{G}=\mathcal{Y}{\times }_1{\mathbf{U}}_1^H{\times }_2{\mathbf{U}}_2^H{\times }_3{\mathbf{U}}_3^H$$
  取核张量 $\mathcal{G}$ 并向量化：$\mathbf{z}=\mathrm{vec}(\mathcal{G})\in {\mathbb{C}}^{R_1{R}_2{R}_3}$。

• CP特征：将 $\mathcal{Y}$ 的CP分解的因子矩阵拼接：
  $$\mathbf{z}={\left[\mathrm{vec}({\mathbf{A}}^{(1)}{)}^{\top },\mathrm{vec}({\mathbf{A}}^{(2)}{)}^{\top },\mathrm{vec}({\mathbf{A}}^{(3)}{)}^{\top }\right]}^{\top }$$

步骤2：DNN映射

$$\hat{\mathbf{\theta }}=f_{\mathrm{DNN}}(\mathbf{z})={\mathbf{W}}^{(L)}{\sigma }_{L-1}(\cdots {\sigma }_1({\mathbf{W}}^{(1)}\mathbf{z}+{\mathbf{b}}^{(1)})\cdots )+{\mathbf{b}}^{(L)}$$

其中 $\hat{\mathbf{\theta }}\in {\mathbb{R}}^K$ 为估计的DOA向量（若 $K$ 未知，可输出空间谱）。

3.2 模型 B：张量层内嵌神经网络（Tensorized Neural Network, TNN）

将DNN的权重表示为张量，利用低秩或CP结构减少参数量，同时保持阵列数据的几何结构。例如，一个全连接层 $\mathbf{y}=\mathbf{Wx}$ 替换为张量层：

定义 $\mathbf{x}\in {\mathbb{R}}^{I_1{I}_2\cdots I_N}$ 被重整为张量 $\mathcal{X}\in {\mathbb{R}}^{I_1\times I_2\times \cdots \times I_N}$，权重张量 $\mathcal{W}\in {\mathbb{R}}^{J_1\times J_2\times \cdots \times J_M\times I_1\times I_2\times \cdots \times I_N}$ 采用CP分解：

$$\mathcal{W}=\sum _{r=1}^R{\lambda }_r\cdot {\mathbf{u}}_r^{(1)}\circ \cdots \circ {\mathbf{u}}_r^{(M)}\circ {\mathbf{v}}_r^{(1)}\circ \cdots \circ {\mathbf{v}}_r^{(N)}$$

输出张量 $\mathcal{Y}\in {\mathbb{R}}^{J_1\times \cdots \times J_M}$ 的每个元素为

$$y_{j_1\cdots j_M}=\sum _{i_1\cdots i_N}\sum _{r=1}^R{\lambda }_r\left(\prod _{m=1}^M{u}_{r,j_m}^{(m)}\right)\left(\prod _{n=1}^N{v}_{r,i_n}^{(n)}\right)x_{i_1\cdots i_N}$$

该层参数量从 $\prod J_m\cdot \prod I_n$ 降至 $R\left(\sum I_n+\sum J_m+1\right)$。

应用于阵列：可将阵元空间响应建模为这种张量神经层，隐式嵌入信号模型。

3.3 模型 C：张量递归神经网络（TRNN）用于序列快拍

快拍方向构成时间序列，使用循环神经网络（RNN） 处理，但将RNN的隐状态推广为三阶张量：

$${\mathcal{H}}_t=\sigma \left({\mathcal{W}}_{xh}\ast {\mathcal{X}}_t+{\mathcal{W}}_{hh}\ast {\mathcal{H}}_{t-1}+\mathcal{B}\right)$$

其中 $\ast$ 表示张量模态积（例如 Tucker‑RNN）：

$${\mathcal{H}}_t=\sigma \left({\mathcal{G}}_x{\times }_1{\mathbf{U}}_x{\times }_2{\mathbf{X}}_t^{(2)}+{\mathcal{G}}_h{\times }_1{\mathbf{U}}_h{\times }_2{\mathbf{H}}_{t-1}^{(2)}+\mathcal{B}\right)$$

${\mathcal{X}}_t\in {\mathbb{R}}^{M\times L_{\mathrm{sub}}}$ 为第 $t$ 个子快拍矩阵，升维为 ${\mathcal{X}}_t^{(2)}$ 后通过核张量 ${\mathcal{G}}_x$ 与因子矩阵 ${\mathbf{U}}_x$ 交互。输出隐状态 ${\mathcal{H}}_t$ 用于最终角度预测。

4. 损失函数与正则化（张量约束）

训练混合模型时，损失函数可结合传统信号处理先验（如低秩、恒模）作为正则项。

标准MSE损失：

$${\mathcal{L}}_{\mathrm{MSE}}=\frac{1}{T}\sum _{t=1}^T{\Vert {\hat{\mathbf{\theta }}}_t-{\mathbf{\theta }}_t\Vert }_2^2$$

加入张量低秩正则（对网络权重 $\mathcal{W}$ 施加CP低秩约束）：

$$\mathcal{L}={\mathcal{L}}_{\mathrm{MSE}}+\mu \cdot {\mathrm{rank}}_{\mathrm{CP}}(\mathcal{W})$$

实际使用松弛形式（核范数或显式CP参数化）：

$$\mathcal{W}=\sum _{r=1}^R{\mathbf{a}}_r^{(1)}\circ \cdots \circ {\mathbf{a}}_r^{(P)}\Rightarrow \mathcal{L}={\mathcal{L}}_{\mathrm{MSE}}+\mu \sum _{r=1}^R\prod _{p=1}^P\Vert {\mathbf{a}}_r^{(p)}{\Vert }_2^2$$

物理先验正则（如流形结构）在损失中加入流形误差：

$$\mathcal{L}={\mathcal{L}}_{\mathrm{MSE}}+\lambda {\Vert \mathbf{A}(\hat{\mathbf{\theta }})-{\mathbf{A}}_{\mathrm{NN}}(\hat{\mathbf{\theta }})\Vert }_F^2$$

其中 ${\mathbf{A}}_{\mathrm{NN}}(\hat{\mathbf{\theta }})$ 是网络隐式学习到的阵列响应。

5. 典型阵列信号处理任务公式映射

任务	张量‑DNN模型形式	输出
DOA估计	$\hat{\mathbf{\theta }}=f_{\mathrm{DNN}}\left(\mathrm{vec}(\mathcal{Y}{\times }_1{\mathbf{U}}_1^H\cdots )\right)$	${\hat{\theta }}_1,\dots ,{\hat{\theta }}_K$
波束形成	$\mathbf{w}=g_{\mathrm{DNN}}\left(\mathrm{eig}({\mathcal{Y}}_{(1)}{\mathcal{Y}}_{(1)}^H)\right)$	最优权重向量 $\mathbf{w}\in {\mathbb{C}}^M$
源分离	$\hat{\mathcal{S}}=\mathcal{Y}{\times }_1{\mathbf{W}}_1{\times }_2{\mathbf{W}}_2$，其中 ${\mathbf{W}}_n=h_{\mathrm{DNN}}({\mathcal{Y}}_{(n)})$	分离信号张量 $\hat{\mathcal{S}}$

总结

• 张量表示保留了阵列信号的多元结构（空间、时间、频率、极化）；
• 深度神经网络提供非线性映射与自动特征提取能力；
• 三种融合模式：预处理‑DNN、张量化网络层、张量循环结构；
• 损失函数可显式加入低秩或流形先验，实现模型驱动与数据驱动结合。

这种框架在DOA估计、自适应波束形成、多源分离等阵列任务中具有理论潜力，且能减少网络参数量、提高泛化能力。