北京前沿人工智能安全研究院发布“前瞻安全基准”
新京报贝壳财经讯(记者罗亦丹)2月28日,北京前瞻人工智能安全与治理研究院(Beijing-AISI)联合人工智能安全与超级对齐北京市重点实验室、中国科学院自动化研究所人工智能伦理与治理研究中心,共同提出并发布了一套全面、多维的人工智能(AI)安全评估标准体系——"前瞻安全标准(ForesightSafety+Bench)"。
该标准以AI安全为"第一性原则"指引,以基础安全、拓展安全、产业安全三大类别为支柱,共涵盖7大基础安全风险类别、5大拓展安全支柱以及8大产业安全关键领域,形成了总计94项精细化的风险维度,并已累计形成规模数万条的结构化风险数据与测评结果,全面评估和应对包括智能体安全、具身智能安全、社会智能安全、失控与生存风险等新近安全风险在内的安全隐患。构建了层次化、系统化、覆盖广泛的人工智能安全评估与分析框架。22款代表性大模型安全水平上线,将逐步开放更多模型结果。
前瞻人工智能安全标准发布后引起广泛关注。Anthropic联合创始人、OpenAI前政策负责人杰克·克拉克围绕"中国的重要AI基准"对前瞻安全标准进行详细分享与点评,他指出"前瞻安全标准展现了东西方在AI安全议题上令人惊讶的共识"。杰克·克拉克还强调了此项研究的重要意义,"AI政策存在一些共通工具:可量化性是大多数AI治理形式的基本前提。尽管地缘政治层面存在分歧,但各国的AI科学家都在面对共同的课题——如何从社会相关层面评估其系统的属性。而更令人鼓舞的是,中国的研究者也在为那些美国前沿实验室同样担忧的生存性风险问题而思考与努力。"
校对 卢茜
相关攻略
大公司:韩国摄像头公司从供货iPhone向人形机器人拓展韩国LG Innotek计划加速转型,减少对iPhone销售的依赖,成为AI和机器人解决方案的领先提供商;该公司已开始向波士顿动力供应摄像头模
IT之家 3 月 26 日消息,据“中物院曙光视点”公众号今日消息,李幼平同志治丧委员会 3 月 25 日发布讣告,中国工程院院士、电子和通信技术专家、中国工程物理研究院科技委原主任李幼平同志因病医
“中国是对数字技术与人工智能技术接受度最高的国家之一。从国家、企业到普通消费者,均对新技术抱有浓厚兴趣并乐于尝试。”3月25日,博鳌亚洲论坛“AI+”:数智赋能产业升级分会现场,中国信息通信研究院院
IT之家 3 月 14 日消息,“北京亦庄”公众号今日宣布,面向 OpenClaw 应用的芯片设计研讨会即将重磅启幕。IT之家从最新介绍获悉,本次研讨会由中关村高性能芯片互联技术联盟(HiPi 联盟
北京商报讯(记者 陶凤 王天逸)3月16日,摩尔线程发文称,随着全球智算集群规模跨入 "万卡时代 "并向 "十万卡 "巅峰演进,传统单机八卡服务器在应对超万亿参数模型时,因集群通信开销过大导致算力线性增长受
热门专题
热门推荐
美股指数期货短线拉升,标普500指数期货上涨0 4%,道指期货与纳指期货亦同步上扬。市场情绪受积极经济数据及企业财报提振,投资者关注后续政策动向与经济走势。
5月22日,贝莱德向Coinbase转移了1587枚比特币和17815枚以太坊,总价值约1 6亿美元。市场推测此举可能与其现货比特币ETF的流动性准备有关,或是机构资产配置的常规操作。大额链上转移反映了传统金融机构正深度参与加密市场,其动向持续影响市场观察与定价逻辑。
加密货币市场反弹:是牛市的序曲,还是又一次技术性修复? 在经历了一轮剧烈的震荡与回调之后,加密货币市场近期迎来了久违的普涨。比特币、以太坊和瑞波币领跑反弹,其亮眼表现不禁让市场参与者们再次发问:这究竟是新一轮牛市的起点,还是仅仅是一次技术性的超跌反弹? 一、市场反弹的核心驱动力 那么,推动这轮反弹行
《一梦江湖》新头挂“应缨鹦”造型灵动可爱。小鹦鹉大眼睛、精巧小嘴,扑扇翅膀,姿态欢快。它时而好奇张望,时而对镜摆姿,活灵活现,为佩戴者增添生动俏皮的趣味。





