DeepSeek-OCR 3B小模型突破长文本压缩，光学识别效率提升
近日，人工智能领域迎来一项突破性进展——DeepSeek团队正式开源其63B参数规模的OCR模型DeepSeek-OCR。这款模型通过创新性的"光学压缩"技术，在保持高识别精度的同时，将文本处理所需的计算资源大幅降低，为长文本处理开辟了全新路径。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
传统大语言模型在处理长文本时面临计算复杂度呈平方级增长的困境，序列长度每增加一倍，算力消耗便增长四倍。DeepSeek团队独辟蹊径，提出将文本信息转化为视觉形态进行处理的方案。通过光学压缩技术，模型能够将1000个文本Token的内容压缩为100个视觉Token，在保持97%以上OCR准确率的前提下，实现10倍压缩率。即便将压缩率提升至20倍，准确率仍能维持在60%左右。
在基准测试中，该模型展现出惊人效率：仅需100个视觉Token即可超越GOT-OCR2.0（每页256个Token）的性能；使用不超过800个视觉Token时，其表现已优于MinerU2.0（平均每页超6000个Token）。在实际生产环境中，单块A100-40G显卡每日可生成超20万页训练数据，20个节点组成的集群每日处理量可达3300万页。
模型架构由两大核心组件构成：DeepEncoder负责图像特征提取与压缩，DeepSeek3B-MoE解码器则完成视觉Token到文本的重建。其中DeepEncoder的创新设计尤为突出，通过串联SAM-base（8000万参数）与CLIP-large（3亿参数）模型，结合16×卷积压缩器，在保证高分辨率处理能力的同时，将激活内存开销控制在合理范围。该编码器支持512×512至1280×1280的多分辨率输入，涵盖Tiny（64+Token）到Large（400+Token）四种原生模式及动态Gundam模式。
解码器采用的MoE架构实现参数效率与模型能力的平衡。64个专家模块中激活6个，搭配2个共享专家，实际激活参数约5.7亿。这种设计使模型既具备30亿参数模型的表达能力，又保持5亿参数模型的推理效率。训练数据方面，团队构建了包含3000万页多语言PDF的庞大语料库，其中中英文数据达2500万页，覆盖约100种语言。
数据标注采用粗细结合的策略：粗标注数据通过fitz工具直接从PDF提取，用于基础语言识别训练；精标注数据则借助PP-DocLayout等模型生成，包含版面分析与文本识别的复合标注。针对小语种数据，团队开发"模型飞轮"机制，通过迭代标注将初始数据量扩展至60万条。300万条Word文档数据专门用于提升公式识别与表格解析能力，场景OCR数据集则包含中英文各1000万条样本。
该模型的创新不仅限于效率提升，其深度解析能力在STEM领域展现巨大潜力。通过统一提示词，模型可实现多种复杂图像的结构化提取：金融报告中的图表可转换为结构化数据，化学结构式自动转为SMILES格式，几何图形完成复制与结构化解析，自然图像生成密集描述。这种能力在化学、物理、数学等需要处理符号与图形的学科中具有重要应用价值。
研究团队提出更具前瞻性的设想——利用光学压缩模拟人类遗忘机制。通过将历史对话内容渲染为图像并逐级压缩，实现内容清晰度随时间自然衰减的效果。这种设计使近期上下文保持高分辨率，历史上文占用更少资源，理论上可支持"无限上下文"处理。虽然该方向仍处于早期研究阶段，但已展现出突破长文本处理瓶颈的可能性。
目前，DeepSeek-OCR的完整代码、论文及预训练模型已通过GitHub与HuggingFace平台开源。项目地址：https://github.com/deepseek -ai/DeepSeek-OCR；论文链接：https://github.com/deepseek-ai/DeepSeek-OCR/blob/main/DeepSeek_OCR_paper.pdf；模型下载：https://huggingface.co/deepseek-ai/DeepSeek-OCR。这项研究为视觉语言模型与大语言模型的融合发展提供了全新思路，证明通过模态转换实现计算效率优化的可行性。
热门专题
热门推荐
Lemonaid是什么 如果你正为音乐创作寻找得力助手，那么Lemonaid很可能就是答案。它是一款专门面向专业音乐人打造的AI音乐生成工具，核心能力在于自主生成包含完整旋律、和声与节奏的乐曲。无论是想要一段氛围感十足的背景音乐，还是为具体场景定制配乐，它都能提供高度逼真且质量上乘的作品。工具提供了
苹果也要出折叠屏，传闻已经有几年了，从目前供应链、分析师与知名爆料者释放的信息来看，这款与市面大折都不一样的阔折叠似乎已经蓄势待发，大概率今年下半年就要正式面市。今天我们就来为大家汇总一波，没准儿就有你想知道的消息。 关于苹果折叠屏手机的传闻，已经流传了好几年。如今，综合供应链、分析师以及各路知名爆
《刺客信条：黑旗重制版》官宣之际，这款新海盗游戏为何能抢先赢得玩家口碑？ 当游戏界的焦点都集中在《刺客信条：黑旗重制版》的正式公布时，一款名为《风启之旅》（Windrose）的开放世界海盗生存建造游戏，却凭借其过硬的品质与独特的玩法融合，悄然在玩家社区中掀起热议。这款由乌兹别克斯坦团队Kraken
产品介绍 提到云端智能视频创作，腾讯智影是一个绕不开的名字。这款由腾讯推出的平台，本质上是一个一站式的在线视频工厂，集成了从素材挖掘、剪辑、渲染到最终发布的全链路功能，旨在为用户提供全方位的视频创作解决方案。更吸引人的是，它不仅免费开放，还深度整合了多项前沿AI技术，目标很明确：让视频化表达这件事，
《王者荣耀世界》线下活动风波：合影互动引争议，职业素养与网络舆论深度探讨 近日，《王者荣耀世界》的一场线下玩家见面会，因台上一次短暂的合影互动，意外成为全网热议的焦点。活动中，一位男粉丝上台与角色扮演者（Coser）合影时，主动做出比心手势以示友好，却未得到身旁Coser的任何回应。男生举着手势在原