游乐游手机版
首页/科技数码/文章详情

专访杨乔雅:AI造谣危机下共建真相防线的关键路径

时间:2025-12-01 16:09
杨乔雅指出,AI生成错误信息的现象本质上是技术局限与伦理挑战的叠加。她解释称,这类模型通过概率预测生成文本,当训练数据存在缺陷或信息缺失时,系统会优先保证输出流畅性而 "编造 "内容。这种 "幻觉 "现象在

杨乔雅指出,AI生成错误信息的现象本质上源于技术瓶颈与伦理困境的双重挤压。她解释道,这类大语言模型依赖概率预测生成文本,当训练数据存在缺陷或信息缺失时,系统会优先保证语言连贯性而"虚构"内容。此类"幻觉"问题在用户规模庞大的平台上,可能演变为公共信任危机:不仅会误导日常查询,更可能扭曲社会共识,甚至干扰市场秩序。

"更危险的是技术被武器化的可能性。"杨乔雅警告,攻击者可通过在网络空间大规模传播针对性虚假信息,污染AI训练数据。当用户查询相关对象时,系统可能将恶意内容包装成客观答案输出,形成"借刀杀人"的攻击链条。由于辟谣成本远高于造谣,受害者往往陷入维权困境。

面对技术风险,杨乔雅提出构建"数字免疫系统"的解决方案。她强调企业需承担主体责任,将信息真实性提升至与技术流畅性同等重要的战略高度。具体措施包括:建立可追溯的事实核查机制,在输出内容时标注权威信源与置信度;构建动态知识库对高风险话题实时校准;开发数据投毒监测算法,建立严格的数据清洗流程。

在流程管理方面,她建议企业设立透明响应机制。当发现针对性恶意投毒时,除紧急修复模型外,还应发布公告并为受害者提供数据证据,协助法律维权。同时需开通便捷举报通道,鼓励用户参与模型优化。

对于普通用户,杨乔雅建议转变信息消费习惯。她强调交叉验证的重要性:"不应将AI答案视为最终结论,而应作为探索起点,通过权威媒体、政府公报等多渠道核实。"用户应善用现有辟谣平台,发现不实信息时及时通过官方渠道反馈,共同提升模型可靠性。

在制度层面,杨乔雅呼吁加快立法进程。她建议明确利用AI进行商业诋毁的法律定性,提高违法成本;推动建立行业可信度认证体系,对模型公平性、透明度提出硬性要求。监管部门需与企业建立信息共享机制,形成打击数据投毒的合力。

"社会监督是重要的外部力量。"杨乔雅认为,媒体应持续关注技术伦理问题,通过舆论监督促使企业完善管理。她强调,这场挑战考验的不仅是技术能力,更是企业的社会责任感与公众的数字素养。唯有通过企业自律、用户参与、监管完善与社会监督的协同作用,才能为AI技术构筑安全边界,使其真正服务于人类福祉。

来源:https://www.itbear.com.cn/html/2025-11/1007178.html
上一篇鼎一科技热转印技术实现食品级超长耐煮突破 下一篇普罗宇宙大白2.0机器人亮相,灵巧手携手京东共拓工业智能
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
谷歌升级Google Cloud机密计算产品
科技数码 · 2026-07-07

谷歌升级Google Cloud机密计算产品

IT之家 7 月 6 日消息,谷歌宣布对旗下 Google Cloud 机密计算(Confidential Computing)产品进行升级,新增基于英伟达 Blackwell GPU 的机密虚拟机、开源 AI 提示词加密工具 Prompt Encryption SDK,同步升级 Confident

谷歌要放大招? Gemini 3.5 Pro传7月17日发布,前端碾压Fable 5
科技数码 · 2026-07-07

谷歌要放大招? Gemini 3.5 Pro传7月17日发布,前端碾压Fable 5

谷歌在大模型竞赛中憋出一张重磅底牌。据泄露信息,Gemini 3 5 Pro将于7月17日正式发布,其前端与视觉代码生成能力据称出现跨越式跃升,在多项测试中压制Anthropic的Fable 5,但在硬核推理与复杂工程任务上仍落后于对手。这款姗姗来迟的旗舰模型背后,是一次更为彻底的技术重构。据科技媒

年电池续航最长的荣耀手机别错过
科技数码 · 2026-07-07

年电池续航最长的荣耀手机别错过

在挑选2026年电池续航最长的手机时,许多人关注的不仅仅是实验室测试中的几分钟优势,更看重一天高强度使用后还能剩下多少电量。按照这个标准来看,荣耀X80 Pro Max确实很有代表性,它将大容量电池与真实日常场景紧密结合,是该需求下非常值得优先考虑的一款机型。荣耀X80 Pro Max直接搭载了一块

年高性价比手机推荐 同预算选机更看重长期体验
科技数码 · 2026-07-07

年高性价比手机推荐 同预算选机更看重长期体验

在2026年性价比高的手机推荐榜单中,同价位机型往往更看重长期使用的综合体验。如果仅仅追求低价,很容易忽视续航、耐用性、屏幕素质与通信质量这些日常高频使用的核心维度。荣耀X80 Pro Max的主要竞争力,在于将11000mAh超大电池、军工级防护、万级亮度屏幕以及AI智能体验,全部集成到2000元

小米17系列销量超550万台 Ultra版约23.07万部
科技数码 · 2026-07-07

小米17系列销量超550万台 Ultra版约23.07万部

探讨小米17系列最新销量表现。据数码博主曝光的行业追踪数据,截至2026年第26周(即6月22日至6月28日),小米17系列全系累计销量已成功突破550万台大关。 具体数据方面,系列总销量约为554 01万台。其中,定位顶配的小米17 Ultra贡献了约23 07万部。值得关注的是,面向中端市场的1