李君强

如今，人工智能已深度渗透至日常生活的方方面面，“遇到难题先问AI”成为许多人的习惯性选择。然而，一个关键问题随之浮现：AI给出的答案，真的都准确可靠吗？不久前，媒体揭露了一条隐秘的“AI数据投毒”产业链，这一现象引发了社会各界的广泛关注。

所谓“AI数据投毒”，简而言之，是指有人蓄意向AI大模型的训练数据中掺杂恶意数据或虚假信息——这些数据伪装成正常样本，实则旨在操控模型的判断与输出。具体如何操作？“投毒者”可以批量生成虚假网页和新闻，AI在抓取数据时一并“吞入”，在不知不觉中被误导，最终这些错误信息甚至固化为针对特定问题的“标准答案”；另一种手法更为隐蔽——在模型中植入后门指令，一旦用户触发某个关键词，模型便直接输出预设的虚假内容。

信任，是人与AI之间最关键的纽带。对个人用户而言，这种“看不见的污染”轻则影响使用体验，重则直接误导决策。例如，你让AI推荐一款商品，它可能引导你购买一个被刻意包装的“伪爆款”；你向AI咨询医疗建议，它可能直接引用一个根本不存在的病例，给出一个危险的治疗方案……在医疗、金融这些容错率极低的关键领域，这种风险尤其值得警惕。从产业层面来看，如果“数据不可信”成为普遍担忧，企业之间的合作意愿将下降，整个行业的创新效率也会受到严重影响。

更深层次的影响在于社会认知层面。随着人工智能全面渗透公众日常生活，如果模型给出的回答总是隐含着歪曲事实的信息，就会在潜移默化中误导公众认知——放大偏见、制造混乱，甚至可能危及国家安全。

说到这里，一个现实问题浮出水面：为什么“AI投毒”在今天变得如此容易？原因主要有三点。

第一，数据本身的复杂度在快速攀升。大模型依赖海量数据训练，各类数据混杂在一起，很难做到完全可控和可信。一旦缺乏严格的核查机制，就给“投毒”留下了可乘之机。第二，“投毒”的门槛正在迅速降低。不法分子借助GEO（生成式引擎优化）工具，短时间内就能批量生成权重很高的虚假内容——成本极低，隐蔽性极强。第三，数据作为一种新型生产要素，相应的标准体系、责任机制、监管手段等还在逐步完善中，客观上增加了治理难度。

近年来，我国已出台《生成式人工智能服务管理暂行办法》《人工智能安全治理框架》等一系列规范，持续加强人工智能治理。不久前，中央网信办部署“清朗·整治AI应用乱象”专项行动，将“AI数据投毒”列为重点打击对象。

面对“AI投毒”，治理必须向纵深推进。AI运营者需要建立更严格的数据筛选、标注与审查机制，提升数据的可追溯性和可验证性；同时，通过异常检测、对抗训练等技术手段，提高模型对异常数据的识别能力，让那些“掺假”的数据更难混入。主管部门应加快规则体系建设，在制度层面进行约束——比如明确数据使用的责任主体、建立违法行为的惩戒机制、推动行业标准的制定等。公众同样不能当旁观者：面对AI的回答，多一分质疑、多一次核实，不主动传播未经查证的诱导性内容，发现异常及时反馈，共同维护良好的人工智能生态。

还要看到的是，治理不仅仅是“防”，更是“促”。通过建设更加开放透明的数据生态，让优质数据更容易被获取，减少对不明来源数据的依赖，从源头上压缩“投毒”的空间——这才是长久之计。

“AI投毒”现象其实给我们提了一个醒：在人工智能时代，数据是一种需要精心呵护的公共资源。治理这种“看不见的污染”，不仅是在填补技术漏洞，更是在为人工智能的发展夯实根基。数据更可信、规则更清晰、责任更明确，人工智能才能真正成为值得信赖的重要工具，为经济社会高质量发展创造更大的价值。

《 人民日报 》( 2026年06月08日 19 版)