首页 游戏 软件 资讯 排行榜 专题
首页
科技数码
前瞻AI安全评估体系与基座平台入选北京前沿成果

前瞻AI安全评估体系与基座平台入选北京前沿成果

热心网友
94
转载
2026-01-05

新京报贝壳财经讯(记者罗亦丹)2026北京人工智能创新高地建设推进会于1月5日举办,会上发布了北京人工智能8大前沿成果。其中,由北京前瞻人工智能安全与治理研究院发布的“前瞻人工智能安全评估体系与基座平台”在列。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

作为人工智能安全与治理的代表性北京创新成果,“前瞻人工智能安全评估体系与基座平台”探讨如何以安全为基石,引领人工智能的稳健发展。该体系突破传统安全评估的单一维度局限,形成了全领域、多层次的评估框架。从覆盖范围来看,它植根基础安全,延伸至具身智能安全、科学智能安全、社会安全、环境安全、灾难性与生存性风险五大维度,覆盖教育科研、医疗健康、金融经济、信息传媒、工业基建、政务民生等多个关键领域。从评估重点来看,特别聚焦隐私与数据保护、滥用恶用、身心伤害、虚假信息防范、自主人工智能高阶风险等核心痛点,进行体系化设计与评估。

前瞻院通过测试发现了一个关键问题:近年来的大模型在安全性方面并未明显提升,部分新近模型的攻击成功率甚至更高。但同时前瞻院也验证了一个重要结论:人工智能模型防御并不必然需要重新训练模型,在在线推理阶段通过部署安全护栏,就能显著提升模型安全水平。针对前瞻安全基准中的各类风险,前瞻院打造了“前瞻·灵御”AI安全攻防平台,可为企业提供标准化评估流程、全面系统的安全分析,帮助企业准确识别模型安全水平,并提供针对性的防护方案与加固建议。

此外,前瞻院还构建了“前瞻·灵度”AI伦理评估平台,专注于AI伦理的智能评估与价值校准。平台能够对上百个大模型进行实时动态监控与并行测试,评估其在六大维度、90个细分类别的伦理合乎度。其集成了以中国价值观为核心的大规模中文价值语料库,覆盖3个层面、12个核心价值、50个衍生价值,累积25万余条规则;收录了全球200余项伦理原则与规范,以及40余项中英文法律法规与国际公约,提供精准的合规指引。可以对人工智能、数据安全、神经科学、脑机接口、医疗健康、生物安全、危险化学物质、核物质、自动驾驶等领域进行自动化伦理评估辅助。

前瞻院认为,人工智能安全应成为“第一性原理”,是不可删除、无法违背的底线要求。安全治理能力基座的构建是北京引领人工智能稳健发展的基础,让我们更有把握地将AI安全地应用于现代化建设,与全世界共享人工智能发展的机遇与成果。

编辑 杨婧媛

校对 陈荻雁

来源:https://www.163.com/dy/article/KIGS282K055284JB.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

元戎起行新驾驶基座:解析转向核心架构Foundation+Model
编程语言
元戎起行新驾驶基座:解析转向核心架构Foundation+Model

网易汽车3月18日综合报道2昨日,元戎启行作为全球领先的人工智能企业代表,再次受邀参加由NVIDIA主办的GTC大会。会上,元戎启行CTO曹通易发表技术主题演讲,系统介绍了以Foundation M

热心网友
03.25
智谱AI开源大模型GLM-5-Turbo实战评测
科技数码
智谱AI开源大模型GLM-5-Turbo实战评测

北京商报讯(记者 魏蔚)3月16日,智谱推出一个面向OpenClaw龙虾场景深度优化的基座模型GLM-5-Turbo。GLM-5-Turbo从训练阶段就针对龙虾任务的核心需求进行专项优化,增强如工具

热心网友
03.16
智谱GLM大模型:专为DeepSeek优化的座驾方案
科技数码
智谱GLM大模型:专为DeepSeek优化的座驾方案

新京报贝壳财经讯(记者罗亦丹)在近期“龙虾”(OpenClaw)热潮下,Kimi、MiniMax等国产模型因相对便宜、性价比高的特点成为不少“龙虾”用户的使用首选,这一“卖铲人”的角色也让上述公司收

热心网友
03.16
小鹏汽车:没有基座模型,物理AI如何突破技术瓶颈?
AI
小鹏汽车:没有基座模型,物理AI如何突破技术瓶颈?

一个模型,改变行业。作者|张麟如今,讨论自动驾驶系统的终极模型架构究竟是VLA还是世界模型,对实现L4自动驾驶能力已经变得毫无意义。3月2日,小鹏汽车举办了马年春节后的第一场发布会,宣布第二代VLA

热心网友
03.12
首个物理AI平台“无垠”落地浙江,破解机器人数据难题
AI
首个物理AI平台“无垠”落地浙江,破解机器人数据难题

一凡 发自 凹非寺量子位 | 公众号 QbitAI2026,什么最火爆?具身智能和世界模型,今年合计已吸金超300亿元,前者是物理AI落地的产品,后者是物理AI的“训练场”,它们共同组成了物理AI的

热心网友
03.09

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

领克GT概念跑车北京车展首发 百公里加速仅2秒
科技数码
领克GT概念跑车北京车展首发 百公里加速仅2秒

领克首款GT概念跑车亮相北京车展,由中欧团队联合打造。新车采用经典GT比例与低趴宽体设计,配备液态金属蓝涂装与2+2座舱,设有高性能模式按键可激活空气动力学套件。车辆采用后驱布局与AI智能运动控制系统,百公里加速约2秒,设计融合瑞典极简美学并参考全球用户反馈。

热心网友
05.14
英伟达RTX 5070移动版GPU发布 12GB显存性能大幅提升
科技数码
英伟达RTX 5070移动版GPU发布 12GB显存性能大幅提升

英伟达推出12GB显存版RTX5070移动GPU,与8GB版同步上市。两者均基于Blackwell架构,核心规格相同,仅显存容量不同。此举旨在缓解GDDR7芯片供应压力,为OEM提供灵活配置,加速笔记本产品布局,更大显存可更好满足游戏与AI应用需求。

热心网友
05.14
微星新款雾面WOLED显示器MAG 276QRY28与276QRDY54正式发售
科技数码
微星新款雾面WOLED显示器MAG 276QRY28与276QRDY54正式发售

微星将于5月15日推出两款26 5英寸雾面WOLED显示器MAG276QRY28和276QRDY54,售价分别为2499元和6299元。均采用第四代WOLED面板,具备QHD分辨率、VESADisplayHDRTrueBlack500认证、1500尼特峰值亮度及99 5%DCI-P3色域覆盖。276QRY28刷新率为280Hz,高阶款276QRDY54支持4

热心网友
05.14
中芯国际一季度净利润13.61亿元 同比增长0.4%
科技数码
中芯国际一季度净利润13.61亿元 同比增长0.4%

中芯国际2026年第一季度营收176 17亿元,同比增长8 1%;净利润13 61亿元,同比增长0 4%。公司预计第二季度收入环比增长14%至16%,毛利率指引上调至20%至22%。这反映出公司在行业复苏中展现出财务韧性,并通过运营优化增强了短期增长势头。

热心网友
05.14
AI图像处理训练数据存在色差问题 16种算法经小改动全面提升
AI
AI图像处理训练数据存在色差问题 16种算法经小改动全面提升

手机修图、相机降噪、视频去雾……这些我们日常使用的图像处理功能,其背后都离不开人工智能(AI)技术的驱动。通常,AI模型的训练逻辑是:向模型展示大量“低质图像”与“优质图像”的配对数据,让它学习如何将前者转化为后者。然而,天津大学计算机视觉团队近期发表的一项研究(arXiv:2604 08172)揭

热心网友
05.14