谈及大模型，核心议题始终绕不开数据。不过，这绝非简单的文字堆砌，其构成“食谱”相当复杂。以语言大模型为例，它需要“摄取”多语言数据、代码数据以及经过精密加工的人工标注数据等多种“食材”，才能形成强大的能力。

1 大模型的训练数据

众所周知，数据规模至关重要，但近年来业界共识愈发清晰：质量远比体量更关键。根据大模型训练的尺度定律，数据规模、模型参数与性能本应紧密关联。然而，微软近期的一项研究彻底颠覆了人们对这一关系的传统认知。

1.1 大模型的训练数据处理流程和特点

这项研究颇具洞察力：研究者构建了一个7B规模的“教科书”级别高质量代码数据集，其中大部分是从网络中筛选出的“教科书质量”数据（6B tokens），外加一部分由GPT-3.5生成的练习（1B tokens）。利用这个“小而精”的数据集训练一个仅有1.3B参数的模型（phi-1），在HumanEval代码评测集上的Pass@1准确率竟然达到50.6%，一举超越了使用超过2TB庞大数据训练的GPT-3.5（准确率47%）。

这一实验的启示十分明确：高质量数据能够彻底改变游戏规则，甚至突破尺度定律的限制，为降低大模型训练成本指明了新方向。那么，如何获取高质量数据呢？下文将介绍几种核心的预处理“提纯”工艺。

• 质量过滤：这是数据清洗的第一步，旨在剔除“糟粕”。主流方法分为两类：一是训练专门的分类器模型智能判断文本质量（GPT-3、PaLM等顶级模型均采用此法）；二是制定一套“人工”规则进行筛选，例如通过语言、统计特征、关键词等手段（BLOOM和Gopher模型即采用了这种基于启发式的方法）。
• 冗余去除：若语料中重复内容过多，不仅浪费算力，还会使模型变得“死板”，缺乏多样性。因此需利用文本重复检测技术，像筛子一样从句子、段落到文档级别识别并剔除重复内容，确保训练效率。
• 隐私消除：公开数据中常夹杂个人敏感信息，这是必须堵上的风险点。最直接有效的办法是结合规则与算法进行“脱敏”。例如，借助命名实体识别和机器翻译技术，可自动检测并抹去上百种语言文本中的姓名、地址、电话等隐私内容。

仅有未标注的“粗粮”远远不够，大模型的“精加工”环节——如微调——离不开高质量的人工标注数据。为使模型理解并执行复杂指令，标注者需设计多种提示。常见的提示类型包括：

• 普通提示（Plain）：核心目标是保证多样性。标注人员需设计五花八门的任务，让模型接触足够丰富的场景。
• 少量样本提示（Few-shot）：这类提示会提供一个指令，并配上多个查询与响应的示例对，相当于给模型展示标准答案，让其学会举一反三。
• 基于用户的提示（User-based）：该类提示最贴近实际，源于真实用户用例。标注人员需精准揣摩用户意图，清晰描述任务和需求。

基于这些收集到的指令和数据，通常会准备三类数据集，服务于大模型训练的“三步走”战略：

• SFT数据集（有监督微调）：标注人员直接给出“最佳答案”，模型在此基础上学习生成符合要求的输出。
• RM数据集（奖励模型）：针对同一问题，模型给出多个答案，由标注员评判优劣并排序。该数据集用于训练一个“裁判”——奖励模型，使其学会区分好坏。
• PPO数据集（强化学习）：此类数据不带任何人类标签，专门用作强化学习阶段的“练兵场”，让模型根据“裁判”反馈自我迭代。

随着数据工程规模日益庞大，自动化成为必然趋势。例如在数据增强环节引入自动化，不仅能大幅提升效率，还能保证标注的一致性与准确性。对于多模态大模型，挑战更大——如何低成本地挖掘并实现图文、音视频等不同模态间的精准对齐，是构建高质量训练数据的关键。

展望未来，数据领域的核心课题将聚焦于以下方面：如何建立一套科学的大模型数据质量评价体系？训练时，不同来源、类型的数据应如何科学配比？在模型训练的不同阶段，又该如何动态引入最合适的数据？这些问题的答案，将直接影响下一波大模型能力的天花板。

1.3 大模型常用的公开数据集

值得庆幸的是，业界已经贡献了一批宝贵的公开数据集，覆盖文本、图像、视频等多种模态，大幅降低了研究门槛。在多模态领域，有ALIGN、VAST-27M、WebVid-2.5M等知名数据集；在语言模型领域，BookCorpus、Common Crawl、HH-RLHF等数据集更是成为诸多经典模型的摇篮。

表 1 大模型常用的公开数据集