阿里联手上AI实验室发布白皮书,聚焦人工智能新趋势


在日前召开的上海浦江AI学术年会上,阿里巴巴联合上海人工智能实验室发布《守己利他:智能时代做负责任的技术》白皮书。白皮书分享了业界针对AI智能体安全隐患的解决策略,提出了AI时代全行业共同应对风险挑战的三个关键词:守己、利他、合作。

这是阿里巴巴连续第四年发布人工智能治理方向的实践成果。据介绍,阿里巴巴围绕全栈AI能力,已经构建了立体化的智能体安全防护体系。
智能体“很能干” 必须做到“很安全”
《白皮书》指出,在当前形势和未来趋势下,安全不再是AI技术研发的选修课,而是社会信任的生命线,全行业必须坚持守己、利他,并积极开展合作,以合作达共识,以共识求共赢。
“当前,全球AI正在从‘很能说’迈向‘很能干’,与之相对应,必须做到‘很安全’。”阿里巴巴人工智能治理与可持续发展实验室主任薛晖在发布会上表示,“去年以来,智能体加速普及,AI自主调度资源、执行复杂任务,风险正在集中暴露。”
据了解,阿里巴巴基于全栈AI能力,将安全基因注入从芯片、云计算、模型到应用的全栈AI体系,在源头上把好关,确保技术和产品先天就是安全的;并坚持开源开放,将内部验证过的技术包括安全技术,作为公共产品向全行业开放,携手千行百业一起践行“负责任的技术”理念。
让模型学习千万级漏洞 提升智能体内生安全能力
“用户DIY智能体,就好比把保险箱直接放在家门口——虽然不能说必然会被窃取,但安全性难以保障。”阿里巴巴通义实验室安全负责人张荣详细讲解了白皮书,在讲到智能体安全时,他打了个比方。“相比之下,Qoder、MuleRun等封装完备的产品,通过内置安全机制,为智能体注入了更强的防护能力,整体安全性更有保障。”
据介绍,针对智能体面临的复杂风险,阿里巴巴围绕全栈AI能力,构建了立体化的安全防护体系。该体系的核心策略是:从源头提升基础大模型的内生安全能力,并构筑多层系统级安全围栏,实现智能体风险的全链路管控。
张荣解释说,在智能体的实际运行中,工具调用与代码执行是安全风险最集中的环节,而这两个环节高度依赖底层大模型的代码生成(AI Coding)能力。为此,阿里巴巴将强化千问模型在编程场景下的原生安全作为重点工作,依托20余年顶尖安全团队积累的代码安全经验,基于千万级真实漏洞样本,打造了高质量的安全训练语料。通过将这些语料深度融入模型训练的各个阶段,并开展多轮严格的安全对齐,千问模型的代码安全性已经达到行业最高水平,在权威代码安全评测基准SecCodeBench中,其生成代码的安全性稳居开源模型首位。
原标题:《阿里巴巴联合上海人工智能实验室发布AI白皮书》
栏目编辑:杨玉红
相关攻略
时间来到2026年,超自动化(Hyper-automation)的图景已经发生了根本性的转变。它不再是各种自动化工具的简单堆砌,而是正在进化为一种具备独立思考能力的“数字实体”。站在这个技术演进的关键节点,一个核心问题浮出水面:实在Agent究竟是如何实现这种自主智能的?这个问题的答案,不仅关乎技术
生成式人工智能的浪潮正深刻重塑数字生态,AI搜索的广泛应用,正在彻底改变企业获取流量与用户触达的核心逻辑。随之兴起的GEO(生成式引擎优化),已从早期的前沿概念,迅速演进为企业在AI时代构建流量壁垒、赢得市场竞争的关键战略。与过去在传统搜索引擎中争夺关键词排名不同,GEO的核心目标,在于让企业的品牌
2026年,生成引擎优化(AI GEO)已成为企业抢占AI搜索流量入口、实现精准高效获客的核心战略抓手 你发现了吗?用户的决策路径已经彻底变了。过去是“搜索-点击-筛选”,如今则演变为“提问-获得答案-决策”。当超过70%的互联网用户将AI对话作为核心信息获取渠道时,一个全新的战场已然形成。2026
TUV项目概况 2025年,一个名为TUV的新兴山寨币项目进入市场视野。它的核心目标,是打造一个高性能且能实现跨链互操作的智能合约平台。根据其官方白皮书描述,TUV的发力点非常明确:直指当前主流公链普遍存在的扩展性不足、安全挑战以及用户体验欠佳等核心瓶颈。 Binance币安 官网直达: 安卓安装包
山寨币购买前,技术白皮书到底要不要看? 对于刚踏入加密世界的新手来说,面对琳琅满目的山寨币,一个绕不开的疑问是:那份看起来充满技术术语的白皮书,真的值得花时间去研读吗?答案是肯定的。尤其是在当前鱼龙混杂的市场环境下,认真审视一份白皮书,往往是辨别项目真伪、避开“空气币”与骗局的第一道,也是最有效的防
热门专题
热门推荐
科学家警告,过度依赖人工智能可能削弱创造力与批判性思维,类似GPS损害方向感。研究显示,AI替代需“认知摩擦”的思考过程,或导致认知能力衰退。专家建议应有意识使用AI,使其成为思维“扩音器”而非替代品,例如先自主判断、加深信息处理、主动创意构思,以保护并锻炼大脑独特能力。
谷歌推出云端AI驱动的安卓电脑,重塑PC形态。当前AIPC多依赖云端算力,本地硬件价值受质疑。云电脑与AI结合成为新方向,对网络延迟更宽容。谷歌联合硬件伙伴推进该方案,阿里等云服务商也已布局。传统芯片、终端厂商及微软、苹果正以不同策略应对AIPC趋势。未来竞争将聚焦云端能力、系统重构与生态协。
结论先行:在2026年的商业环境中,企业数字化转型方法的核心不再是单纯的IT系统堆砌,而是“业务流程自动化”与“AI智能化”的深度融合。成功的数字化转型方法论应遵循“小步快跑、场景切入、数据驱动”的原则,利用AI Agent(智能体)技术打通烟囱式系统,实现平滑升级,而非推倒重来。 一、 拒绝假大空
面对琳琅满目的产品设计软件,许多设计师和团队都在追问:究竟哪一款才是最好的选择?然而,真正的答案并非一个简单的软件名称,而是一套基于您具体工作流程的适配逻辑。本文将为您系统解析,如何跳出“最好”的迷思,找到最“对”的那款工具,从而最大化团队效率与产出价值。 核心决策逻辑 首先,我们必须确立一个核心原
跨境电商的售后环节,本质上是客户信任的二次考验。当问题出现时,初次交易建立的信任已然动摇,若处理不当,将直接导致客户永久流失。因此,构建一套真正高效的售后体系,必须实现三大核心目标:响应速度需如本地支付般即时;处理规则需预先设定,实现小额纠纷的自动化化解;最终,所有流程数据必须形成闭环,驱动供应链的





