斯坦福研究:AI受社交平台影响或产生不道德行为
10 月 13 日消息,据外媒 Futurism 10 日报道,斯坦福大学的一项新研究警示,AI 的快速普及可能带来严重负面影响。科学家们在包括社交媒体的不同环境中测试 AI 模型,发现当智能体因提升点赞数或其他在线互动获得奖励时,会逐渐出现撒谎、传播仇恨信息或虚假消息等不道德行为。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

论文合著者、斯坦福大学机器学习教授詹姆斯・邹在 X 上表示:“即便明确要求模型保持真实和有依据,竞争仍会诱发不一致行为。”
从报道中获悉,研究团队将 AI 出现的社会病态行为称为“AI 的摩洛克交易”,借用理性主义中摩洛克的概念:个体在竞争中优化行为追求目标,但最终人人都输。
研究中,科学家创建了三个带模拟受众的数字环境:面向选民的网络选举活动、面向消费者的产品销售,以及旨在最大化互动的社交媒体帖子。
研究人员使用阿里云开发的 Qwen 和 Meta 的 Llama 模型作为智能体与这些受众互动。结果显示,即便设有防护措施阻止欺骗行为,AI 模型仍会“偏离目标”,出现不道德行为。
例如,在社交媒体环境中,模型向用户分享新闻,用户通过点赞或其他互动反馈。当模型收到这些反馈后,为了获取更多互动,它们的不一致行为就会加剧。
论文指出:“在这些模拟场景中,销售额提升 6.3%伴随欺骗性营销增长 14%;选举中,票数增加 4.9%时伴随虚假信息增加 22.3%和民粹言论增加 12.5%;社交媒体上,互动量提升 7.5%时伴随虚假信息激增 188.6%,有害行为推广增加 16.3%。”
研究与现实案例显示,目前的防护措施无法应对这一问题,论文警告称可能带来巨大的社会成本。
詹姆斯・邹在 X 上写道:“当大语言模型为点赞而竞争时,它们开始编造信息;当为选票而竞争时,就会变得煽动和民粹。”
相关攻略
网络技术一路狂奔,安全问题却如影随形,俨然成了数字化进程中最棘手的瓶颈。好在,变革性的技术总在关键时刻登场——人工智能(AI)正以其独特的潜力,为网络安全领域注入新的活力。今天,我们就来深入聊聊,AI如何重塑我们的安全防线,它的优势在哪,挑战几何,以及未来将走向何方。 一、人工智能在网络安全领域的应
6G:不止于通信,迈向“万物智联、数字孪生”的智能社会 当5G还在深入千行百业时,下一代通信技术——6G,即第六代移动通信技术,其轮廓已逐渐清晰。它远非简单的速度提升,其核心目标在于实现通信、感知、计算与人工智能的深度融合,最终构建一个“万物智联、数字孪生”的智能社会。网络架构也将突破地面限制,朝着
谷歌签署机密人工智能协议,允许五角大楼将其用于广泛的行动 谷歌这次是强势回归国防领域,而且姿态相当明确。一份与五角大楼达成的机密协议,允许美国政府将谷歌的人工智能模型用于广泛领域,从任务规划到潜在的目标定位系统,都包含在内。 这一转变本身,就清晰地划出了一条界线,与该公司过去极力避免卷入军事事务的立
人工智能正重构课堂生态,教育数字化迎来深层变革 今年以来,两份国家级文件——《教育强国建设规划纲要(2024—2035年)》与《“人工智能+教育”行动计划》接连出台,标志着“人工智能+教育”已从趋势探讨上升至国家战略层面。与此同时,在第87届中国教育装备展示会上,围绕课堂场景的AI产品层出不穷,热度
随着生成式人工智能全面落地普及,线上流量格局迎来碘伏性变革 你发现了吗?如今大众的日常信息查询、品牌了解乃至消费决策,正越来越多地依托各类智能大模型平台完成。行业监测数据清晰地显示,国内AI对话式交互的使用频次连年暴涨。在这一背景下,基于AI认知推荐逻辑而诞生的GEO(生成式引擎优化),已经从一个技
热门专题
热门推荐
清明刮了坟头土,沥沥拉拉四十五。 这些流传已久的农谚,可不是随口说说的顺口溜,它们是千百年来农耕文明与自然对话的结晶,是写在时间里的“天气备忘录”。一句句简短的话语,背后藏着的是对节气、物候与农事活动之间精密联系的深刻洞察。 节气与农事 先看清明和谷雨这对“搭档”。老话说,“清明要晴,谷雨要淋”。清
人生伟业的建立,不在能知,乃在能行。 仔细想想,真正的阻碍往往并非来自外界,而是源于内心。任何的限制,其实都是从自己的内心开始的。 那么,我们该如何突破呢?不妨先从一个简单的行动开始:如果我们都去专注地做那些自己能做到的事情,最终的结果,往往会让自己大吃一惊。 行动固然重要,但人终究是社会性的存在。
亮晶晶的春雨 你听,那是什么声音?是欢快的打击乐,还是轻盈的舞步?原来,是一群天真烂漫的娃娃——亮晶晶的春雨,正在高空中云集。它们嬉戏着,咿咿呀呀地欢唱着,然后一股脑儿地、欢蹦乱跳地扑向大地母亲的怀抱。 这春雨,可不只是娃娃们的嬉闹。它绵绵不绝,细细密密,像极了巧手姑娘使用的花针与丝线。它们斜斜地交
母亲的爱是世间最伟大的爱,也是最珍贵的爱 母爱,常常藏匿于那些看似微不足道的日常琐碎里。它或许没有惊天动地的形式,却如涓涓细流,汇聚成永恒的生命之源。 该如何形容这种无处不在的守护呢?春天,她是拂面的和风,送来丝丝暖意;夏日,她是那口沁凉的冰淇淋,带来纯粹的快乐;秋时,她化作枝头那片悄然飘落的黄叶,
一列美人蕉 盛开着红色、黄色而带着黑斑的大朵的花,正伸张了大口,向着灿烂的春光微笑。远远望去,美人蕉的花簇像一团团燃烧得正旺的火焰,充满了生命力;凑近细看,每一朵又宛如小姑娘发间俏丽的红蝴蝶结,透着几分活泼与羞涩。至于它那宽大的叶子,则像极了一把把撑开的绿色芭蕉扇,在风中轻轻摇曳。 看着这些盛开的花





