
10月20日,DeepSeek-AI团队正式发布了题为《DeepSeek-OCR:Contexts Optical Compression》的研究论文,创新性地提出了一种通过视觉模态对长文本上下文进行压缩的全新解决思路。目前,该模型已在Hugging Face平台面向公众开放,模型参数量为30亿级别。
该技术方案由两大核心模块构成:分别是作为核心编码器的DeepEncoder与解码器DeepSeek3B-MoE-A570M。其中,DeepEncoder专门针对高分辨率输入进行了优化设计,在维持较低计算激活量的同时,实现了高效的视觉信息压缩,从而将视觉token数量有效控制在合理范围内。实验数据显示,当文本token数量不超过视觉token的10倍时(即压缩比低于10倍),系统的OCR识别准确率可达97%;即使将压缩比提升至20倍,准确率仍能维持在约60%的水平,展现出在处理历史文档长上下文及支持大语言模型记忆机制研究方面的显著潜力,同时具有较强的实用价值。
在OmniDocBench基准测试中,DeepSeek-OCR仅使用100个视觉token就超越了GOT-OCR2.0(每页使用256个token)的表现;当视觉token使用量不超过800个时,其性能已优于MinerU2.0(平均每页消耗超过6000个token)。这一结果充分体现了该模型在信息密度和处理效率方面的突出优势。
在实际部署层面,该模型可在单张A100-40G显卡上稳定运行,每日可生成超过20万页的训练数据,适用于大规模视觉语言模型或大语言模型的数据生产流程,展现出良好的工程落地能力。
相关项目资源现已对外开放,用户可通过指定平台获取使用。
