Unlimited-OCR是什么？百度最新端到端长文档OCR模型深度解析
Unlimited-OCR是百度最新推出的端到端长文档OCR模型，其核心亮点在于：仅需常数级的资源消耗，即可实现数十页文档的一次性完整转录。这项突破性技术依赖于一套名为Reference Sliding Window Attention（参考滑动窗口注意力，简称R-SWA）的创新机制——它将解码器的KV cache从线性增长压缩为常数级别，彻底避免了随页数增加而膨胀的问题。该模型采用总参数为3B的MoE稀疏架构，在OmniDocBench v1.6评测基准上以93.92%的总分斩获端到端SOTA（当前最优），推理速度高达5580 TPS。更令人惊喜的是，其代码与权重已全面开源，开发者可即取即用。
Unlimited-OCR的主要功能与适用场景
- 超长文档一次识别：支持2页至40余页的PDF文档单次前向转录，彻底告别传统逐页for循环的繁琐操作，极大提升长文档处理效率。
- 多类型文档解析：覆盖PPT、学术论文、书籍、彩色教材、试卷、杂志、报纸、笔记、研究报告等9种常见版式，几乎各行各业都能找到用武之地，通用性极强。
- 高精度内容提取：文本、公式、表格、阅读顺序全链路端到端输出，其中公式CDM（内容检测指标）达到95.79%，表格TEDS（表格编辑距离相似度）达到93.32%，精度在同类产品中处于领先水平。
- 双分辨率视觉编码：Base模式采用1024×1024分辨率处理多页长文档，Gundam模式则使用动态分辨率专注单页高精度识别，两种模式可按需灵活切换。
- 常数延迟推理：无论输出序列有多长，KV cache始终恒定在m+n（参考token数与滑动窗口长度之和），推理延迟和显存占用都保持稳定，不会出现“越跑越慢”的性能衰减。
Unlimited-OCR的技术原理深度拆解
- R-SWA 注意力机制：每个生成token仅关注全部的参考token（视觉特征加提示词）以及最近的128个输出token。关键突破在于，视觉token被排除在滑动窗口的状态转移之外，从而保证长程生成过程中视觉特征不会被逐步模糊或丢失。
- 常数 KV Cache 设计：将KV cache实现为一个容量为m+n的先进先出队列，每生成一个新token，就自动淘汰第(m+1)个最旧的token。这样一来，计算成本和内存占用不再随序列长度递增——无论输出多长，开销都被锁定在常数水平。
- DeepEncoder 视觉编码：沿用SAM-ViT级联CLIP-ViT的架构，通过bridge层实现16倍token压缩。1024×1024的图像被压缩成256个视觉token，编码一次后即冻结，后续不再参与权重更新，大幅降低计算量。
- MoE-LLM 解码器：采用3B总参、500M激活参数的MoE架构，所有注意力层均替换为R-SWA。基于DeepSeek-OCR的checkpoint继续训练4000步，全局batch size为256，最大序列长度32K，确保模型在长文档上的表现。
- 推理引擎优化：在Transformers和SGLang两个主流推理框架中都实现了常数TPS（每秒处理的token数）和常数显存的KV cache管理。配合Flash Attention v3内核，per-call延迟全程保持水平，没有波峰波谷，性能极其稳定。
如何使用Unlimited-OCR：从下载到部署全指南
- 模型下载：通过Hugging Face（仓库名
baidu/Unlimited-OCR）或GitHub（同名代码仓库）即可获取完整代码与预训练权重，所有资源均为公开可访问。 - 环境准备：支持Transformers库和SGLang推理引擎，配置好对应的GPU环境（建议显存≥24GB）即可运行，部署门槛较低。
- 输入格式：支持PDF页面图像输入。Base模式适用于多页长文档的批量处理，Gundam模式则专为单页高分辨率识别设计，用户可根据文档类型按需选用。
- 推理调用：单次前向传播即可完成整本/整份文档的完整OCR转录，无需外部调度器分页处理，省心省力。
- 扩展应用：R-SWA机制并非OCR专属，可以灵活迁移到ASR（自动语音识别）、翻译、字幕生成等需要“参考源+长输出”序列的任务场景，未来想象空间广阔。
Unlimited-OCR的核心优势与竞争力
- SOTA 识别精度：在OmniDocBench v1.5上总分93.23%，v1.6上总分93.92%，均位列端到端第一名，数据真实可靠，精度行业领先。
- 常数资源占用：KV cache不随文档页数增长，即使处理20页、40+页的超长文档，显存占用和推理延迟都稳如泰山，彻底解决了长文档OCR的资源瓶颈。
- 速度随长度放大：输出序列越长，优势越明显。在6144 token长度时，理论TPS上限比DeepSeek-OCR领先大约35%，高效处理海量文本。
- 通用解码架构：R-SWA不是OCR专属的trick，理论上任何“参考源+长输出”的生成任务（如语音识别、机器翻译、图像描述）都能直接套用，价值巨大。
- 轻量开源：3B总参、500M激活参数，模型文件体积可控，代码与权重全部开源，极大降低了个人开发者与企业的部署和二次开发门槛。
Unlimited-OCR的项目地址与资源
- GitHub仓库：https://github.com/baidu/Unlimited-OCR
- HuggingFace模型库：https://github.com/baidu/Unlimited-OCR
Unlimited-OCR与同类竞品（DeepSeek-OCR）全面对比
| 维度 | Unlimited-OCR | DeepSeek-OCR |
|---|---|---|
| 模型规模 | 3B-A0.5B (MoE) | 3B-A0.5B (MoE) |
| 注意力机制 | R-SWA（参考滑动窗口注意力） | 标准全注意力 |
| KV Cache 增长 | 常数（m+n），不随序列长度增加 | 线性增长，随输出序列持续累积 |
| OmniDocBench v1.5 总分 | 93.23% | 87.01% |
| OmniDocBench v1.6 总分 | 93.92% | 90.25%（DeepSeek-OCR 2） |
| 文本编辑距离 | 0.038 | 0.073 |
| 公式 CDM | 92.61% | 83.37% |
| 表格 TEDS | 90.93% | 84.97% |
| 阅读顺序编辑距离 | 0.045 | 0.086 |
| 推理速度 | 5580 TPS，全程常数延迟 | 4951 TPS，延迟随长度递增 |
| 长文档支持 | 单次前向 40+ 页，无需分页 | 长序列受限于KV cache膨胀，需分页处理 |
| 训练基础 | 基于DeepSeek-OCR checkpoint续训4000步 | 基座模型 |
Unlimited-OCR的典型应用场景：效率革命
- 企业档案数字化：批量处理成百上千页的扫描版PDF、古籍善本、合订本资料，无需提前拆分成册就能一次性结构化提取文字内容 - LONG_SPLIT_CHAR_HERE）
- 学术文献解析
- 整本论文 PDF
- 期刊合辑
- 研究报告的端到端转录,公式、表格、阅读顺序全保留
- 省去后期手动整理的时间成本。
- 教育试卷LONG_SPLIT_CHAR_HERE
- 多页试卷、练习册的批量识别，彩色教材与复杂版式也能应对自如。
- 法律合同审核
- 长篇幅合同文本的精准OCR提取，为后续的NLP分析、合规审查提供干净可靠的数据基础。
- 多语言翻译流水线
- 作为R-SWA通用解码方案的验证场景，可进一步扩展到ASR、字幕生成等长序列任务，未来想象空间很大。