杨乔雅指出,AI生成错误信息的现象本质上源于技术瓶颈与伦理困境的双重挤压。她解释道,这类大语言模型依赖概率预测生成文本,当训练数据存在缺陷或信息缺失时,系统会优先保证语言连贯性而"虚构"内容。此类"幻觉"问题在用户规模庞大的平台上,可能演变为公共信任危机:不仅会误导日常查询,更可能扭曲社会共识,甚至干扰市场秩序。
"更危险的是技术被武器化的可能性。"杨乔雅警告,攻击者可通过在网络空间大规模传播针对性虚假信息,污染AI训练数据。当用户查询相关对象时,系统可能将恶意内容包装成客观答案输出,形成"借刀杀人"的攻击链条。由于辟谣成本远高于造谣,受害者往往陷入维权困境。
面对技术风险,杨乔雅提出构建"数字免疫系统"的解决方案。她强调企业需承担主体责任,将信息真实性提升至与技术流畅性同等重要的战略高度。具体措施包括:建立可追溯的事实核查机制,在输出内容时标注权威信源与置信度;构建动态知识库对高风险话题实时校准;开发数据投毒监测算法,建立严格的数据清洗流程。
在流程管理方面,她建议企业设立透明响应机制。当发现针对性恶意投毒时,除紧急修复模型外,还应发布公告并为受害者提供数据证据,协助法律维权。同时需开通便捷举报通道,鼓励用户参与模型优化。
对于普通用户,杨乔雅建议转变信息消费习惯。她强调交叉验证的重要性:"不应将AI答案视为最终结论,而应作为探索起点,通过权威媒体、政府公报等多渠道核实。"用户应善用现有辟谣平台,发现不实信息时及时通过官方渠道反馈,共同提升模型可靠性。
在制度层面,杨乔雅呼吁加快立法进程。她建议明确利用AI进行商业诋毁的法律定性,提高违法成本;推动建立行业可信度认证体系,对模型公平性、透明度提出硬性要求。监管部门需与企业建立信息共享机制,形成打击数据投毒的合力。
"社会监督是重要的外部力量。"杨乔雅认为,媒体应持续关注技术伦理问题,通过舆论监督促使企业完善管理。她强调,这场挑战考验的不仅是技术能力,更是企业的社会责任感与公众的数字素养。唯有通过企业自律、用户参与、监管完善与社会监督的协同作用,才能为AI技术构筑安全边界,使其真正服务于人类福祉。
