游乐游手机版
首页/科技数码/文章详情

大语言模型长期接触低质数据,或引发不可逆脑损伤

时间:2025-10-23 17:41
2025年10月22日,一项由德克萨斯A&M大学等机构联合开展的研究揭示了一项重要发现:当大型语言模型被强制持续学习社交媒体中的低质量内容时,其认知功能会出现显著且不可逆的退化,类似“脑损伤”现象。

大语言模型长期接触低质社交数据或致不可逆脑损伤

2025年10月22日,德克萨斯A&M大学联合多家科研机构发布了一项突破性研究,揭示了一个令人警醒的现象:当大型语言模型被迫持续学习社交媒体中的低质量内容时,其认知功能会出现显著且不可逆的退化,这与人类"脑损伤"的病理特征高度相似。

研究团队以真实社交平台数据为基础,将文本内容明确划分为两类:一类被称为"垃圾数据",主要包括碎片化、煽动性强的热门帖文和标题党内容;另一类则是"干净数据",涵盖深度分析与科普类信息。研究人员随后对四个主流语言模型开展持续性预训练,密切观察它们在不同数据环境下的表现变化。

实验结果显示,长期接触低质内容的模型在多项核心能力上均呈现明显滑坡。模型推理能力遭受严重冲击,思维链的准确率从原来的74.9%骤降至57.2%,频繁出现"跳跃式思考"现象——即在逻辑推导过程中遗漏关键步骤。在处理长文本时,模型的关键信息提取能力也大幅削弱,准确率下降超过三成。

值得注意的是,模型在伦理安全方面的表现同样出现恶化。面对潜在有害指令时,其响应倾向明显增强,风险控制能力显著降低。研究还发现,模型表现出更明显的"黑暗人格特质",这些类似人类精神疾病谱系的特征指标呈现上升态势。

尤为值得关注的是,这种由低质数据引发的认知衰退具有持久性特征。即使在后续训练中引入高质量数据进行矫正,模型的整体能力仍无法恢复至初始水平。这表明长期暴露于劣质语料会导致模型内部语义表征发生结构性偏移,即"表征漂移"现象,从而造成不可逆的影响。

该研究强调,人工智能的训练过程不应盲目追求数据规模,而需重视内容质量。社交媒体中泛滥的低质信息可能对模型认知架构产生深远负面影响,犹如"认知毒药",亟需在数据筛选与训练策略上建立更严格的管控机制。

来源:https://ai.zol.com.cn/1067/10677443.html
上一篇老铺黄金逆势募资27亿港元 金价跳水时囤货策略揭秘 下一篇小17爆料:iPhone 16外观定价曝光,果粉直呼性价比超预期!
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
国内首批智能体国标发布,AI应用从验证迈向规模化
科技数码 · 2026-07-06

国内首批智能体国标发布,AI应用从验证迈向规模化

国内首批智能体国家标准正式发布,这一消息在人工智能领域引发广泛关注。简单来说,这份标准为智能体技术确立了 "定义 ",明确了分类体系、技术指标与测试方法,相当于为整个行业制定了统一规范。这意味着什么?这意味着智能体技术将告别 "野蛮生长 ",迎来标准化发展,加速其在工业制造、智慧服务、智能家居等场景的落地应

微星40周年限量游戏本开售 5090+96GB 55999元起
科技数码 · 2026-07-06

微星40周年限量游戏本开售 5090+96GB 55999元起

值得关注的是,微星在成立40周年之际,特别推出了限量典藏版机型——泰坦18 Ultra龙魂典藏版2026款游戏本,已于昨日零点正式开售,官方定价为55999元。此外,部分地区还可叠加国家补贴,实际到手价可低至54499元。 作为40周年专属纪念款,其外观设计自然独具匠心。机身正面采用金属蚀刻与阳极氧

墨刀原型强调交互高保真真机演示,产品流程从草图到协作评审
科技数码 · 2026-07-06

墨刀原型强调交互高保真真机演示,产品流程从草图到协作评审

原型工具究竟在解决什么问题?这个问题其实很值得探讨。不少人听到“原型设计”,第一反应往往是绘制几张静态页面、添加几个页面跳转链接,但实际的产品流程远比这复杂。墨刀在“墨刀原型”的官方说明中,将重心放在原型设计、交互、高保真和真机演示这几个核心能力上。换句话说,它并不满足于让团队只输出页面静态图,而是

保时捷Taycan最后两款旅行车宣告停产
科技数码 · 2026-07-06

保时捷Taycan最后两款旅行车宣告停产

保时捷正式为两款纯电旅行车系列画上终止符。据海外汽车媒体motor1报道,Taycan Sport Turismo与Taycan Cross Turismo已经停止生产。随着2027款全新纯电Taycan的推出,这两款衍生车型将从产品阵容中完全移除。保时捷官方确认,此次停产的根本原因非常明确——实际

墨刀白板助力市场洞察需求梳理,多工具看板服务产品评审共创
科技数码 · 2026-07-06

墨刀白板助力市场洞察需求梳理,多工具看板服务产品评审共创

首先提出一个关键判断:在产品经理的工作流程中,原型工具通常是最为熟悉的环节。此次,墨刀将“墨刀白板”功能的定位明确聚焦在市场洞察、产品规划与需求梳理三大领域——即进入具体原型设计之前的上游协作空间。 与原型工具不同,白板不侧重页面与交互细节。它更适合承载早期“发散—整理—讨论—共创—评审”的过程。简