AI安全十大趋势：政策风向与风险前瞻
生成式AI加速发展，带来效率与模式革新。但同时模型滥用、数据泄露等安全风险也被叠加放大，对AI研发、部署及风险管理提出更高要求。
1月6日举行的粤港澳大湾区生成式人工智能安全发展联合实验室福田服务站揭牌暨AI出海研讨会上，联合实验室发布了《2026年度AI安全十大趋势》白皮书。白皮书以政策合规、风险与治理、趋势研判为核心板块，系统预测2026年AI安全关键方向，为行业发展与监管实践提供重要参考。
政策篇： 全球合规框架落地，开源监管博弈加剧
《2026年度AI安全十大趋势》白皮书政策篇聚焦两大核心趋势，分别是全球AI治理体系落地与开源模型监管博弈。白皮书指出，2025年是AI治理从“原则倡导”转向“制度落地”的转折点，合规能力已成企业核心竞争壁垒与国际合作基础，开源模型的监管博弈将长期贯穿技术创新与风险防控。
第一个趋势指向全球AI合规框架加速协同与落地。白皮书以中国、美国、欧盟举例，明确三者形成差异化却同向的核心治理框架，推动AI监管从“软性建议”转为“准入前置”。三大框架均以“可审计、可问责”为核心要求，报告预测未来这一能力将成为AI系统进入金融、政务等关键行业的核心门槛，合规缺失者将失去市场准入资格。
另一个值得关注的趋势是开源模型滥用风险与监管博弈加剧。2025年AI开源模型生态爆发式增长，虽降低技术应用门槛、推动创新扩散，但自由下载、微调及部署的特性，为恶意利用提供了可乘之机。报告指出开源平台正通过强化审核、引入行为监控、建立开发者信誉体系防控风险。但监管层面仍存争议。报告强调，未来开源模型治理将长期处于“鼓励创新”与“防范风险”的动态博弈，相关主体需持续平衡技术发展与安全合规。
风险篇： 攻击手段复杂化、风险场景多元化
在白皮书风险篇中指出，当前AI安全面临三大核心挑战，风险演化呈现“攻击手段复杂化、风险场景多元化、危害影响扩大化”特征。
趋势三指出在对抗攻防领域将进入高维博弈阶段。攻击者利用多模态、多轮次系统化手段，通过文本、图像植入扰动诱导模型出错，使安全问题升级为“复杂系统鲁棒性”。研究显示，经诗歌等形式改写的恶意指令在多个主流模型上攻击成功率超过90%，传统提示过滤技术难以应对。
与此同时，AI智能体安全风险引发监管与责任新考量这一趋势随之产生。目前国际社会对其缺乏统一定义与监管标准，在金融、企业内部等场景中，身份认证与权限边界趋于模糊，责任归属尚不明确。我国已布局“智能体即服务”，未来需通过规则完善引导其可控发展。
除以上两点外，趋势五聚焦危害扩大化这一领域，指出AI武器化拓展网络攻击新战场。深度伪造与生成式AI结合使其成为新型网络武器。数据显示，2024年全球约67.4%的网络钓鱼攻击采用AI技术，实现诈骗脚本自动化与信息精准收集；具身智能更推动攻击从数字域延伸至物理世界。面对传统防御失效，构建“AI对抗AI”的自动化防御体系已成为必然需求。
趋势篇： AI安全治理从被动防护到主动应对
白皮书认为，针对AI智能体的监管与治理框架仍处于探索阶段，现行人工智能政策体系尚未完全覆盖其自主性带来的新型风险。但白皮书在趋势篇也强调，AI安全正从“被动防护”转向“主动构建”。全生命周期治理筑牢安全基础，原生安全架构成为标配，对齐研究破解核心难题，内容真实性治理夯实信任底座，“AI—能源耦合”上升为国家战略，五大趋势共同塑造AI安全新生态。
趋势六是AI安全治理走向全生命周期可信化。在AI治理的环节层面，白皮书强调，AI安全治理正从“局部防护”转向全生命周期可信化。国际社会正通过NIST风险管理框架、ISO/IEC42001认证及欧盟《人工智能法案》等，将治理覆盖从设计到部署的全过程。
在模型层面，趋势七指出AIGC原生安全架构成为基础设施标配。为应对模型幻觉、隐私泄露等显性风险，安全能力需深度嵌入模型输入、推理与输出各阶段，实现从“外部加固”到“内生自控”的转变。白皮书预测，未来AIGC安全将与网络安全、数据安全并列成为核心基础能力。
此外AI伦理也被提及。在趋势八就指出AI对齐研究与实践提速。白皮书写道，AI对齐研究是破解安全核心难题的关键。尽管面临“弹性回退”等实践挑战，但该研究正从学术探索加速转向工程实践，直接影响AI系统的安全性与社会接受度。
趋势九为内容真实性治理成为数字社会基础秩序。报告认为，内容真实性治理正成为数字社会的信任底座。为应对深度伪造的冲击，各国正通过立法与技术溯源双轨并进，推动治理迈向基础设施级建设。
最后，白皮书指出，趋势十为算力扩张推动“AI-能源耦合”成为国家安全议题。当前，发展“绿色算力”、推动AI与能源系统双向赋能已成为各国共识。但报告提醒，电力扩容滞后、碳中和张力等风险仍存，需加强跨部门协同，平衡技术发展与能源约束。
出品：南方都市报社 南都大数据研究院 AI新治向工作室
文：南都研究员 孔令旖
相关攻略
谷歌威胁情报团队发布最新报告，揭示了网络安全领域的新趋势：黑客组织已开始利用人工智能工具辅助进行网络攻击。报告披露了两个关键实例：一是黑客利用AI成功挖掘出真实的零日漏洞，相关攻击虽被阻止，但证明了AI在漏洞挖掘上的实用性；二是曝光了一段由AI生成的Python脚本，该脚本用于绕过热门开源网络管理工
2026年4月7日，网络安全行业迎来里程碑式突破：360公司自主研发的漏洞挖掘智能体，成功识别并向官方报告了AI智能体平台OpenClaw的三项安全漏洞，涵盖一个高危漏洞及两个中危漏洞。目前，所有漏洞均已获得官方修复并完成披露。此举不仅是一次高效的安全发现，更象征着AI安全审计技术实现了根本性的范式
2026年4月，一则关于OpenAI首席执行官萨姆·奥特曼（Sam Altman）住所遇袭的突发新闻，迅速成为全球科技圈的焦点。此次事件紧随《纽约客》杂志一篇深度调查报道发布后发生，奥特曼随即在其个人博客发文，强烈驳斥该报道为“煽动性”内容，并回应了文中对其个人信誉与公司治理的诸多质疑。这场风波再次
欧盟域名数据泄露溯源：开源扫描工具竟成攻击“特洛伊木马” 最近，一份来自欧盟网络安全机构CERT-EU的公告，在技术圈里投下了一颗不大不小的“震撼弹”。公告证实，此前欧盟官方域名europa eu遭遇的大规模数据泄露，根源竟是一款名叫Trivy的开源漏洞扫描工具——它本身被攻陷了。攻击者利用这个漏洞
蚂蚁集团携手清华大学开源智能体安全防御插件ClawAegis 2026年4月2日，智能体安全领域迎来了一项关键进展。蚂蚁集团AI安全实验室与清华大学联合宣布，正式开源智能体安全防御插件——ClawAegis。这个产品来头不小，它是全球第一个覆盖OpenClaw全生命周期的安全防护工具。其核心在于构建
热门专题
热门推荐
钉钉文档官网 在探讨企业级协同办公解决方案时，钉钉文档无疑是备受瞩目的核心工具之一。作为阿里巴巴钉钉官方推出的旗舰级应用套件，它深度融合了在线文档编辑、智能表格、思维导图等多种高效创作工具。其核心优势在于与钉钉平台生态的无缝衔接，能够直接同步企业内部组织架构与通讯录，实现团队成员间的即时协作与信息流
在数字化转型浪潮中，高效、易用的数据分析工具已成为企业提升决策效率的关键。商汤科技推出的“办公小浣熊”智能助手，正是基于自研大语言模型打造的一款创新产品，旨在彻底降低数据分析的技术门槛。用户无需掌握编程知识或复杂操作，即可通过自然对话完成从数据查询、处理到可视化洞察的全流程，让数据价值触手可及。 办
在人工智能技术快速发展的今天，MiniMax作为一家专注于全栈自研的AI公司，正以其独特的技术路径和前瞻性的布局，在业界脱颖而出。公司致力于构建覆盖文本、图像、语音和视频的新一代多模态智能模型矩阵，这不仅体现了对核心底层技术自主权的深度掌控，也展现了对未来人机交互与内容生成形态的前瞻思考。 那么，M
ApolloCreditFund（ACRED）作为连接传统信贷与DeFi的桥梁，其价格受市场情绪、协议基本面及宏观环境影响。其价值逻辑根植于现实世界资产（RWA）的收益捕获与链上流动性释放。短期价格波动难以预测，但长期发展取决于信贷资产质量、协议安全性和市场采用度。投资者需关注其底层资产表现、代币经济模型及整个RWA赛道的发展趋势。
在数字化转型浪潮中，一套能够深度适配业务、彰显品牌特色的智能客服系统，已成为企业提升服务效率与用户体验的关键工具。然而，市场上许多解决方案往往模式固化，难以满足个性化需求。如何让AI客服不仅具备基础的自动化应答能力，更能承载独特的品牌文化与服务哲学？其核心在于系统是否支持深度的自定义与持续的AI训练