近期，AI大模型训练数据短缺的话题又火了。《经济学人》最新那篇《AI公司很快将耗尽大部分互联网数据》，在业界掀起了不少讨论。核心观点很直接：随着互联网上那些高质量的数据被一点点吃光，AI领域正撞上一堵“数据墙”。

研究机构Epoch AI的预测更具体：到2028年，互联网上所有高质量文本数据将被彻底用尽；而机器学习数据集，可能早在2026年之前就会把“高质量语言数据”消耗殆尽。这不只是理论推演，而是实实在在摆在AI公司面前的难题——数据不够用了，训练速度恐怕得被迫放缓。

图源备注：图片由AI生成，图片授权服务商Midjourney

其实，学界早就敲过警钟。2023年7月，加州大学伯克利分校的斯图尔特·罗素教授就警告过：ChatGPT这类AI驱动的机器人，很快要“耗尽宇宙中的文本”了。不过，意见并不完全统一。2024年5月，斯坦福的李飞飞教授给出了另一视角——当下仍有大量差异化数据等待挖掘，关键是如何用它构建更定制化的模型。

数据短缺怎么解？合成数据成了备受关注的选项。但《自然》杂志近期的一篇论文泼了冷水：用AI生成的数据集去训练下一代模型，可能导致“模型崩溃”，让模型越来越偏离对真实世界的理解。研究团队的结论是，得在训练数据里留够原始样本，用更多样化的数据源，并且投入研究更鲁棒的训练算法。

突破“数据墙”的限制，确保高质量训练数据持续供应，已经是AI行业绕不开的紧迫课题。这不仅需要技术上的创新，更需要政府、企业、研究机构之间协同发力。随着AI技术越来越深地嵌入各行各业，解决数据短缺这个问题，才是AI持续健康发展的关键所在。