阿里联手上AI实验室发布白皮书,聚焦人工智能新趋势

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

在日前召开的上海浦江AI学术年会上,阿里巴巴联合上海人工智能实验室发布《守己利他:智能时代做负责任的技术》白皮书。白皮书分享了业界针对AI智能体安全隐患的解决策略,提出了AI时代全行业共同应对风险挑战的三个关键词:守己、利他、合作。

这是阿里巴巴连续第四年发布人工智能治理方向的实践成果。据介绍,阿里巴巴围绕全栈AI能力,已经构建了立体化的智能体安全防护体系。
智能体“很能干” 必须做到“很安全”
《白皮书》指出,在当前形势和未来趋势下,安全不再是AI技术研发的选修课,而是社会信任的生命线,全行业必须坚持守己、利他,并积极开展合作,以合作达共识,以共识求共赢。
“当前,全球AI正在从‘很能说’迈向‘很能干’,与之相对应,必须做到‘很安全’。”阿里巴巴人工智能治理与可持续发展实验室主任薛晖在发布会上表示,“去年以来,智能体加速普及,AI自主调度资源、执行复杂任务,风险正在集中暴露。”
据了解,阿里巴巴基于全栈AI能力,将安全基因注入从芯片、云计算、模型到应用的全栈AI体系,在源头上把好关,确保技术和产品先天就是安全的;并坚持开源开放,将内部验证过的技术包括安全技术,作为公共产品向全行业开放,携手千行百业一起践行“负责任的技术”理念。
让模型学习千万级漏洞 提升智能体内生安全能力
“用户DIY智能体,就好比把保险箱直接放在家门口——虽然不能说必然会被窃取,但安全性难以保障。”阿里巴巴通义实验室安全负责人张荣详细讲解了白皮书,在讲到智能体安全时,他打了个比方。“相比之下,Qoder、MuleRun等封装完备的产品,通过内置安全机制,为智能体注入了更强的防护能力,整体安全性更有保障。”
据介绍,针对智能体面临的复杂风险,阿里巴巴围绕全栈AI能力,构建了立体化的安全防护体系。该体系的核心策略是:从源头提升基础大模型的内生安全能力,并构筑多层系统级安全围栏,实现智能体风险的全链路管控。
张荣解释说,在智能体的实际运行中,工具调用与代码执行是安全风险最集中的环节,而这两个环节高度依赖底层大模型的代码生成(AI Coding)能力。为此,阿里巴巴将强化千问模型在编程场景下的原生安全作为重点工作,依托20余年顶尖安全团队积累的代码安全经验,基于千万级真实漏洞样本,打造了高质量的安全训练语料。通过将这些语料深度融入模型训练的各个阶段,并开展多轮严格的安全对齐,千问模型的代码安全性已经达到行业最高水平,在权威代码安全评测基准SecCodeBench中,其生成代码的安全性稳居开源模型首位。
原标题:《阿里巴巴联合上海人工智能实验室发布AI白皮书》
栏目编辑:杨玉红
相关攻略
在日前召开的上海浦江AI学术年会上,阿里巴巴联合上海人工智能实验室发布《守己利他:智能时代做负责任的技术》白皮书。白皮书分享了业界针对AI智能体安全隐患的解决策略,提出了AI时代全行业共同应对风险挑
九科信息bit-Agent:打造企业AI进化的“元枢纽”。随着大模型“智能涌现”效应的持续深化,人工智能产业的叙事逻辑正经历一次深刻的跃迁:从单纯的语义对话Chatbot全面转向具备闭环执行能力的A
【CNMO科技消息】在2026年美国拉斯维加斯举行的CES展会上,TCL与德国莱茵TV共同发布《显示产品感知立体色域白皮书(电视产品色彩评价应用指南)》,首次提出以人眼真实视觉感知为核心的三维色
谁发布了比特币白皮书?作者究竟是谁?比特币白皮书的作者是中本聪,中本聪是比特币协议及其相关软件的创造者,但其真实身份并不为人所知,下文将为大家详细介绍
这场由人工智能驱动的电力革命,正重塑从芯片到电网的整个供电体系。英飞凌最新白皮书提出七大关键预测,描绘了AI供电的未来图景:未来十年,单颗处理器负载电流将达到10,000安培,是当前水平的10倍;电
热门专题
热门推荐
全面掌握OE交易所行情:专业投资者的多维分析框架 在瞬息万变的数字资产世界,交易所行情数据是投资者决策的生命线。对于像OE交易所这样汇聚了丰富创新资产与生态项目的平台而言,其行情页面不仅仅是价格的显示屏,更是一座蕴藏着市场深度信息的金矿。真正理解OE行情,意味着要从基础数据、情绪面与资金面三个层面展
永续合约终极指南:新手入门、核心玩法与顶尖平台解析 近期,尽管数字资产市场波动加剧,但一种名为“合约交易”的衍生工具却频频让部分投资者在熊市中逆势获利。其中,永续合约因其独特的“无到期日”设计,已成为加密交易者进行杠杆操作的主流选择。本文将全面解析永续合约的运作机制、交易策略与核心风险,助您从入门到
VRC币与比特币:深度解析两大数字货币的本质区别 在加密货币的浩瀚海洋中,比特币无疑是那座最引人注目的灯塔。然而,当越来越多的投资者和用户将目光投向Web3世界,一个常见的问题浮现出来:VRC币和比特币是一样的吗?尽管它们同属数字资产范畴,但从设计哲学到实际应用,两者存在着根本性的差异。本文将从核心
宁德时代2025年财报:行业承压下,龙头交出怎样一份成绩单? 最近,全球动力电池领域的领头羊宁德时代发布了2025年年度报告。数据一出,立刻在市场上引发了广泛关注。报告显示,公司不仅实现了营收与净利润的双双增长,多项核心指标更是回到了历史高位。 具体来看这份成绩单:2025年,宁德时代营业收入达到4
一命:妙论慧业 纳西妲的一命「妙论慧业」,其核心机制在于显著提升元素战技「所闻遍计」的伤害输出。对于依赖战技挂草与持续输出的草神配队而言,这一提升尤为关键。解锁后,战技施加的「蕴种印」在触发时的伤害将获得可观增幅,使得纳西妲的后台输出能力更为突出。在激化、绽放等需要高频草元素附着的阵容中,一命能有效





