1. 论文核心贡献与特点
Pleias-RAG系列模型（包括Pleias-RAG-350M和Pleias-RAG-1B）的诞生，打破了“只有大模型才能做好RAG”的传统观念。其主要贡献如下：
- 提出全新的“小型推理模型”家族
论文展示了两个专为检索增强生成（RAG）任务设计的小型模型：Pleias-RAG-350M 和 Pleias-RAG-1B。它们在相对较小的参数规模（数亿到十亿量级）下，仍能提供高质量的检索与推理能力，并在多语言场景中展现出良好的实用性。 - 模型在生成答案时内置“引用与原文引用片段”功能
与常见的后处理引用方式不同，这些模型在生成答案的同时会直接生成针对文献或源文本的引用标记（例如使用形如的标签），并能在同一回答中自动插入对应的原文片段。这种机制显著提升了答案的可追溯性和可验证性。 - 完善的RAG工作流集成能力
论文为模型设计了一个结构化的“推理序列”（或称多步骤推理模板），涵盖从分析用户问题、判断是否需要检索、多语言切换，到引用整合、答案草稿生成，以及对信息进行引用与重排等环节。这些步骤都在模型推理过程中实现了端到端的体现。 - 借助大规模合成数据进行中间训练（mid-training）提升模型表现
作者通过海量合成数据（数百万规模的RAG样本及其对应的推理过程示例）对模型进行“中间训练”，使模型掌握复杂的检索、多跳推理以及自动引用等能力。这些数据涵盖多语言、多领域的信息片段及对应的问题与答案，用于模拟真实场景下的检索与回答流程。 - 多语言能力与轻量化部署
与同等或更大参数规模的开源模型相比，Pleias-RAG系列在法语、意大利语、德语等欧洲主要语言上的RAG任务精度损失很小，同时由于模型参数规模较小，便于在受限硬件环境（例如移动设备、树莓派）上部署。