继续跟进【文档智能】解析进展。在前期介绍了非常多的多模态视觉语言模型在OCR场景的方法思路，在模型架构上，基本都是vit+MLP+LLM的框架，以自回归（AR）【即文本以从左到右、逐个词元的方式生成。】的方式进行OCR解码，存在顺序延迟问题，其延迟与文档长度呈线性关系。AR的因果生成导致错误传播，即初始错误会在输出中逐级放大。

如上图，MinerU-Diffusion引入了一种不同的范式，将文档OCR重构为一个逆向渲染问题。该框架不一次预测一个序列，而是使用一个并行的基于扩散的解码器。通过将文档视为一个空间耦合的离散随机场，MinerU-Diffusion旨在直接从视觉特征重建结构化文本，从而确保高效率并以视觉输入为基础。

建模

把文档OCR建模为从2D文档图像到1D结构化token序列的逆渲染过程：

$$y=\left(y^{(1)},...,y^{(L)}\right)\in {\mathcal{V}}^L$$

• $y$：统一结构化token，包含文本、布局标记、表格分隔符、数学符号；
• 核心逻辑：token间的依赖来自文档空间布局/格式，而非固定的生成因果顺序；
• OCR本质：基于视觉证据的后验推断 $p(y|x)$，而非语言驱动的序列生成。

模型结构

这一块直接从代码看，整体架构分为三大核心组件：视觉编码器、视觉 - 语言投影器、SDAR 语言模型：

SDAR 语言模型基于扩散（Diffusion）机制生成文本，这个区别传统的多模态视觉语言模型自回归的方式，重点看一下。

SDARModel
├── Token嵌入层 (Embedding)：将文本token转为向量
├── N × SDARDecoderLayer：解码器层（核心计算单元）
├── SDARRMSNorm：归一化层（稳定训练）
└── SDARRotaryEmbedding：旋转位置编码（RoPE，支持长文本）

SDARForCausalLM：基座模型 + 语言模型头（LM Head）
核心创新：generate_with_embeds 方法 → 块级去噪扩散生成

• 用掩码 token（MASK）占位待生成的文本
• 分块、分步去噪，逐步把掩码 token 替换为生成 token
• 比传统自回归生成速度更快、长文本效果更稳

实验

参考文献

MinerU-Diffusion: Rethinking Document OCR as Inverse
Rendering via Diffusion Decoding，https://arxiv.org/pdf/2603.22458

往期相关

多模态文档解析的开源项目模型技术方案都在《文档智能专栏》，如：

• 再看两阶段多模态文档解析大模型-PaddleOCR-VL架构、数据、训练方法

• 多模态文档智能解析开源进展：针对形变文档优化的PaddleOCR-VL-1.5架构改进点

• 如何打造一个文档解析的多模态大模型？MinerU2.5架构、数据、训练方法

• 端到端的多模态文档解析模型-DeepSeek-OCR架构、数据、训练方法

• 多模态文档解析模型新进展：腾讯开源HunyuanOCR-1B模型架构、训练配方

• 强化学习GRPO（格式奖励）在多模态文档解析中的运用方法

• 多模态文档解析开源新进展-DeepSeek-OCR2.0架构、数据、训练方法

• 多模态文档智能解析持续开源进展：Youtu-Parsing模型架构、数据、训练方法

• 多模态文档解析最新开源进展：2B参数FireRed-OCR模型方法

• 多模态文档解析新进展：多模态OCR解析文档中的任意内容实现方案

…