游乐游手机版
首页/科技数码/文章详情

DeepSeek开源OCR新突破:视觉压缩技术如何优化长文本处理效率

时间:2025-10-21 21:49
近日,人工智能领域迎来一项创新成果——DeepSeek团队推出名为DeepSeek-OCR的模型,通过“上下文光学压缩”技术,为大语言模型处理长文档提供了高效解决方案。该模型突破了传统方法对算力和内

近日,人工智能领域迎来一项重要突破——DeepSeek团队推出了名为DeepSeek-OCR的全新模型,该模型采用创新的“上下文光学压缩”技术,为大型语言模型处理长文档提供了一种高效的解决方案。这一技术摆脱了传统方法对算力和内存的严重依赖,为处理海量文档的实际应用开辟了新思路。

当前,大语言模型在处理长达数千字甚至更长的文本时,计算量往往呈指数级增长,这不仅导致算力成本急剧上升,也成为制约其广泛应用的关键瓶颈。DeepSeek团队从人类视觉系统中获得启发:当我们阅读文档时,视觉系统能迅速捕捉页面布局、段落结构等关键信息,并对内容进行高效压缩。基于这一洞察,研究团队提出了“视觉预处理”的创新思路——先将文本内容转换为图像格式,通过视觉模型进行压缩处理,再交由语言模型进行理解,从而大幅减少输入token的数量。

DeepSeek-OCR的核心架构由两大模块组成:DeepEncoder深度编码器和基于混合专家模型(MoE)的解码器。其中,DeepEncoder巧妙融合了SAM分割模型和CLIP交互式语言-图像预训练模型的双重优势。其中,SAM模型擅长处理局部细节,通过窗口注意力机制有效捕捉分散的视觉特征;而CLIP模型则依托全局注意力机制,提取文本与图像之间的整体语义信息。两种架构通过16倍下采样的卷积模块实现串联,形成“先局部后全局”的完整处理流程,有效解决了高分辨率图像处理中的内存溢出和token爆炸等常见问题。

解码端采用DeepSeek自主研发的30亿参数混合专家模型,激活参数控制在5.7亿。该模型通过动态分配机制将任务智能分发至不同的专家网络,既保持了模型规模的可控性,又实现了强大的文本还原能力。实验数据表明,在处理600到1300个英文文本token的文档时,DeepSeek-OCR仅需64或100个视觉token即可完成处理。当压缩比低于10倍时,OCR解码精度可达97%以上;即使压缩比达到20倍,准确率仍能维持在60%左右的较高水平。

在OmniDocBench等实际应用场景测试中,DeepSeek-OCR的表现优于同类模型。例如,相较于GOT-OCR2.0每页256个token和MinerU2.0每页超过6000个token的设计,DeepSeek-OCR以更少的视觉token达到了业界领先的解析水平。该模型通过包含图表、化学分子式、几何图形等多样化数据的训练,具备了深度解析复杂文档的能力。例如,它能将报告中的图表准确转换为表格数据,将化学文献中的分子式规范输出为SMILES格式,甚至能解析几何图形中的线段关系,为金融、科研、教育等领域提供了实用的智能工具。

目前,DeepSeek已开源该模型的核心代码和权重。技术报告显示,在生产环境中,单张A100-40G GPU每日可处理超过20万页文档数据。不过,该模型仍存在一些局限:当压缩比超过10倍时,性能会因信息损失或图像分辨率降低而有所下降;在处理极端复杂版面的文档时,解析能力仍有提升空间。需要指出的是,OCR任务与多轮对话理解存在本质差异,前者侧重于视觉感知和解码还原,后者则涉及推理、记忆检索等复杂认知过程。技术团队表示,未来计划开展数字文本与光学文本交叉的预训练实验,并评估长上下文检索的实际准确性。

尽管如此,DeepSeek-OCR为视觉与语言模态的深度融合提供了新的技术路径。传统方法通常将两者作为独立输入进行处理,而该模型表明,视觉与语言可以互为信息压缩和解压的有效媒介。基于这一范式,未来研究或可探索将多轮对话历史渲染为图像,以更低成本管理更长的对话记录;或将海量知识库压缩为视觉索引,从而提升知识检索的效率。

来源:https://www.itbear.com.cn/html/2025-10/994078.html
上一篇TCL X11L Mini LED电视评测:画质天花板无人能敌 下一篇极地科研传承之路:两代科学家如何在困境中突围前行
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
泰坦军团战魂KG277VPLUS双模显示器27英寸4K165Hz/520Hz仅1888元
科技数码 · 2026-07-03

泰坦军团战魂KG277VPLUS双模显示器27英寸4K165Hz/520Hz仅1888元

泰坦军团“战魂KG277VPLUS”27英寸显示器发售,支持4K165Hz与FHD520Hz双模切换,定价1888元。采用FastIPS面板,97%DCI-P3色域,配备升降支架及双HDMI2 1和双DP1 4接口。

苹果调价影响消费需求 2026年全球笔电出货量或降13.6%
科技数码 · 2026-07-03

苹果调价影响消费需求 2026年全球笔电出货量或降13.6%

迈入2026年,DRAM与NAND闪存的供应持续紧张及价格不断攀升,正逐步传导至终端消费市场。可以预见,下半年市场环境将更加严峻。上半年多家PC厂商已陆续上调产品定价,最终连苹果也不得不跟进,宣布提升iPad、Mac及家居设备的价格,以应对存储成本的快速上涨。 TrendForce分析指出,苹果全面

苹果iPhone 18 Pro自研C2芯片或不支持5G毫米波
科技数码 · 2026-07-03

苹果iPhone 18 Pro自研C2芯片或不支持5G毫米波

苹果自研C2芯片仅支持Sub-6GHz,不支持5G毫米波。因此,美版iPhone18Pro继续采用高通基带方案以支持毫米波,而其他地区版本则搭载苹果自研C2芯片。这一差异将导致在毫米波覆盖的市场中,用户峰值速率可能显著低于美版用户。

纳睿雷达推出睿宸超精细化短时临近AI气象大模型
科技数码 · 2026-07-03

纳睿雷达推出睿宸超精细化短时临近AI气象大模型

纳睿雷达近日释放了一项重磅成果。2026年7月1日,公司正式对外发布了两款自主研发的全新产品:一款是“WDSPT0152型”S波段全极化多功能有源相控阵雷达,另一款则是名为“睿宸”的超精细化短时临近AI气象大模型。从产品战略来看,此次发布直指气象监测与灾害预警领域的技术制高点。 先来看这款S波段雷达

南航国际创新港一期交付 四大专业园区打造空天产业强磁场
科技数码 · 2026-07-03

南航国际创新港一期交付 四大专业园区打造空天产业强磁场

近日,南京航空航天大学与六合区深度合作的标杆项目——南航国际创新港一期正式交付投用。两个地块陆续启用,成功串联起高校科研能量、地方产业载体与市场创新主体,为南京打造全国领先的航空航天产业创新中心、助力江苏布局商业航天全产业链,提供了坚实的物理支撑。 该创新港一期位于六合区雄州街道,分为3号和4号两个