游乐游手机版
首页/业界动态/文章详情

微软开源ASSERT框架,助开发者高效评测AI智能体与应用行为

时间:2026-06-03 10:06
微软发布ASSERT开源框架,通过将文档中的行为规范自动转化为可执行测试用例,实现规范驱动评分。该框架分为生成分类体系、自动测试、轨迹记录和评分四个阶段。实验表明,其测试覆盖率更广,能发现更多异常,LLM判定与人工一致率约80%-90%,适用于行为定义清晰的场景,但不能替代人工判断。

在AI应用开发领域,一个老生常谈的问题始终困扰着开发者:如何把写进文档里的那些行为规范,高效且准确地转化为真正可执行的测试?说白了,你明明在需求里写得清清楚楚——“不能拍马屁”、“必须遵循工具调用规范”——可到了实际评测时,这些文本往往只沦为背景板,结果全靠人工去猜。这背后的痛点,正是微软最新开源的ASSERT框架试图解决的。

微软发布 ASSERT 开源框架:让开发者更高效地评测 AI 智能体和应用行为

ASSERT的全称有点长——Adaptive Spec-driven Scoring for Evaluation and Regression Testing,简单说就是一套“用规范驱动评分”的自动化评估方案。它的核心逻辑很直接:既然你已经在产品手册、政策文件甚至系统提示词里写好了行为规范,那就别让它躺在文档里吃灰,直接拿来生成测试。

具体是怎么做到的?微软把整个流程拆成了四个环环相扣的阶段。

第一步,是把那些宽泛的“不准拍马屁”之类的描述,翻译成明确的神逻辑——什么算许可行为,什么算不许可行为,形成一个可编辑的分类体系。接着,开发者可以指定任务类型、角色、工具可用性等维度,系统就能自动生成分层测试用例。这些用例覆盖得挺全:单轮对话、多轮场景、友善交互、对抗性探测,一个不落。然后把这些用例扔给目标系统去跑,记录下完整的运行轨迹,包括中间的工具调用和决策过程。最后一步才是打分——对照之前定好的行为分类和策略立场,给每个轨迹贴上“通过”或“不通过”的标签,附上判断理由和关键动作的引用。

这套流程听起来很理想,那实际效果到底怎么样?微软团队用两项研究来验证。

第一项覆盖率研究表明,相比直接从意图生成的评估集,ASSERT在多个关键行为维度上——比如社会评分、拍马屁、任务遵循、工具使用规范、不安全健康建议——生成的测试集覆盖面更广,暴露出的异常案例也更多。换言之,它对区分强弱系统的能力更强,也能发现更多独特的失效模式。这不是小打小闹的改进,而是实实在在的测试质量提升。

第二项研究则聚焦于判定器的可靠性。他们把LLM自动判定的结果跟人工审核做对比,发现两者的一致率通常在80%到90%之间。而人工标注者之间的一致率大约是90%。这个数字说明,LLM判定器能捕捉到大部分关键信号,但在面对策略层面的微妙差别,或者高度专业的领域时,还是需要人脑来兜底。

说到这里,谈谈ASSERT最适合用在哪儿。结论很明确:它在行为定义清晰、约束条件明确的场景下最能打。如果你的项目里已经积累了丰富的工具描述、政策边界和系统提示词,那么ASSERT就能帮你生成更精准的测试用例。不过,一个重要的提醒是:别把ASSERT给出的汇总评分当成最终裁判。说实话,那些失败的案例和具体的操作轨迹,往往比一个总分更有价值。它们能直接告诉你系统在哪里翻车、怎么翻的,这才是改进的真正抓手。

当然,ASSERT不是万能的。它替代不了人工判断,替代不了线上遥测数据,也替代不了领域专家评审。它的价值,在于让评估这件事变得更快速、更明确、更容易迭代。把它看作一个翻跟斗,而不是方向盘,可能更合适。

来源:https://www.ithome.com/0/959/024.htm
上一篇Google扩大Quick Share与AirDrop互传支持 覆盖更多安卓手机 下一篇微软推出量子芯片Majorana 2 目标2029年实用机器
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
星纪魅族曾洋回应魅友催更 2025年将推更多新机
业界动态 · 2026-07-08

星纪魅族曾洋回应魅友催更 2025年将推更多新机

星纪魅族副总裁曾洋回应魅友催促更新,透露新机研发正积极推进,2025年将推出更多新机及备受期待的机型。官网当前在售五款机型,从经典款到性能旗舰,全面覆盖不同用户需求与偏好,产品线持续丰富。

奥之心OM-3经典回归 三款新镜头同步发布
业界动态 · 2026-07-08

奥之心OM-3经典回归 三款新镜头同步发布

OMSYSTEMOM-3采用胶片单反复古设计,搭载计算摄影与色彩 单色配置控制功能,沿袭旗舰影像性能与五轴防抖系统。同期发布三款镜头,覆盖广角至超长焦焦段,共同构成兼具感性体验与实用性的摄影系统。

比亚迪闪充站一周新增288座,覆盖291城累计4885座
业界动态 · 2026-07-08

比亚迪闪充站一周新增288座,覆盖291城累计4885座

3月20日晚间,比亚迪集团品牌及公关处总经理李云飞公布最新数据:3月13日至19日一周内,比亚迪新建288座闪充站,累计建成闪充站总数达4885座,覆盖全国291座城市。这一扩张速度,确实令人惊叹。 更值得关注的是充电性能的重大突破。据比亚迪最新介绍,搭载第二代刀片电池的车型,可实现5分钟从10%电

讯飞鸿语Pro智能助听器上市,AI科技守护银发生活
业界动态 · 2026-07-08

讯飞鸿语Pro智能助听器上市,AI科技守护银发生活

科大讯飞推出智能助听器Pro“鸿语”系列,以AI技术解决传统助听器社交尴尬、噪音处理弱、验配复杂、佩戴不适四大痛点。产品具备时尚外观、动态降噪、星火智能验配系统及64通道精准补偿,实现“千人千耳”个性化适配,提升听损者生活品质。

Powerbeats Pro 2 发布 支持运动心率监测
业界动态 · 2026-07-08

Powerbeats Pro 2 发布 支持运动心率监测

Beats发布PowerbeatsPro2,首次加入运动心率监测,支持主动降噪、空间音频及动态头部追踪。耳挂采用镍钛合金加固,重量减轻20%,续航45小时,充电盒支持无线充电。售价2099元,2月13日开售。