游乐游手机版
首页/科技数码/文章详情

ServiceNow携AI精准定位技术,突破GUI自动化测试新进展

时间:2025-10-31 10:43
人工智能在图形用户界面(GUI)自动化领域取得重要突破,一项由多国科研机构联合完成的研究提出了两项创新技术,显著提升了AI对界面元素的定位能力。这项成果解决了长期以来困扰该领域的关键难题,为开发更智

人工智能在图形用户界面自动化领域实现重要突破,由多家科研机构联合完成的研究推出了两项创新技术,显著提升了AI对界面元素的定位能力。这项成果解决了长期困扰该领域的关键难题,为开发更智能的自动化工具奠定了坚实基础。

现代数字生活中,人们每天都需要与各类软件界面互动,从手机应用到电脑程序,从网页浏览到专业软件操作。如果能让AI像人类一样精准识别并操作这些界面元素,将极大提高工作效率。然而现有技术要让AI在屏幕上准确定位按钮、文本框等组件,如同让从未见过地图的人在陌生城市中寻找特定建筑,难度极高。

研究团队发现,当前视觉语言模型在处理GUI定位任务时面临根本性挑战:如何将自然语言指令转化为精确的像素坐标。传统方法要求模型从抽象的视觉特征直接推断坐标位置,缺乏明确的空间参照,导致定位不可靠且泛化能力差。就像闭着眼睛的运动员投篮,或是习惯小操场的球员突然在标准场地比赛,准确率难以保证。

针对这些难题,科研人员开发了RULER技术。该技术通过在图像中引入特殊参考标记,为AI提供明确的空间坐标系统。这些标记编码了像素位置信息,使模型能参考最近的标记点进行精确定位,而非从零开始推测。实验表明,该技术大幅提升了定位稳定性,尤其在处理高分辨率界面时表现突出,即使面对训练时未见过的分辨率也能保持性能。

另一项创新I-MROPE技术则解决了位置编码的深层问题。传统方法在分配频率成分时存在不平衡,导致不同空间维度的建模能力差异显著。I-MROPE采用循环交替分配策略,确保每个维度都能获得完整的频率谱,从而在水平和垂直方向上具备同等精准的定位能力。这种改进不仅提升了GUI定位效果,还保持了与现有语言模型的兼容性。

研究团队在多个标准数据集上验证了新技术,结果显示定位准确率显著提升。特别是在高分辨率专业桌面应用的测试中,新方法将准确率从31.1%提升至37.2%。这种提升源于技术对空间信息的更有效处理:RULER提供了明确的参考框架,而I-MROPE则确保了各维度信息的均衡利用。

技术实现上,RULER以固定间隔设置参考标记,在性能和效率间取得平衡。即使在8K分辨率下,其计算开销也极小。I-MROPE则通过改进频率分配机制,无需调整现有模型架构即可集成。这些特性使得新技术具有很高的实用价值,可轻松应用于现有系统升级。

实验设计充分考虑了实际应用场景。研究人员采用两阶段训练策略,先进行视觉-语言对齐预训练,再进行特定领域微调。测试数据覆盖不同平台和分辨率的界面,评估指标严格模拟真实使用情况,要求预测点必须落在目标元素边界框内才算正确。这种严谨的设计确保了技术成果的可靠性。

这项研究不仅推动了GUI自动化技术的发展,也为其他需要精准空间定位的AI任务提供了新思路。其核心启示在于:通过引入明确的结构设计,而非单纯依赖数据驱动,可以构建更可靠、更高效的人工智能系统。随着技术进一步完善,未来可能出现能自动执行复杂操作流程的智能助手,大幅提升人机交互体验。

问:RULER技术如何提升AI定位能力?答:该技术通过在图像中添加编码像素坐标的参考标记,为AI提供明确的空间坐标系统。模型可参考最近的标记点进行精确定位,就像使用地图导航而非凭感觉猜测位置,显著提高了定位稳定性和跨分辨率泛化能力。

问:I-MROPE技术有什么独特优势?答:这项技术解决了传统位置编码的频率分配不平衡问题,通过循环交替分配策略确保每个空间维度都能获得完整的频率谱。这使得AI在处理界面元素时,水平和垂直方向的定位能力同样精准,且能与现有语言模型无缝集成。

问:这项研究对普通用户有何影响?答:研究成果将推动开发更智能的自动化工具,AI可能实现自动填写表格、批量处理文件等复杂操作。新技术适应不同分辨率设备的能力,意味着无论使用手机、平板还是4K显示器,都能获得稳定可靠的自动化服务,大幅提升工作效率。

来源:https://www.itbear.com.cn/html/2025-10/1004286.html
上一篇永辉2025年Q3关店超百家,年底旺季或推动利润回升 下一篇海信E8S Pro电视今晚开售:Mini LED背光+AI芯片,75-100寸三款可选
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
燃机先锋铸大国重器 时代人物纪实
科技数码 · 2026-07-07

燃机先锋铸大国重器 时代人物纪实

东方汽轮机团队历经十余年攻关,从零起步突破重型燃气轮机核心技术,解决高温叶片精铸、燃烧室点火等难题,成功研制F级50兆瓦燃机G50,打破国外垄断,并持续推进系列化研发。

存储芯片三巨头悄然撑起标普25%涨幅,好景能持续吗
科技数码 · 2026-07-07

存储芯片三巨头悄然撑起标普25%涨幅,好景能持续吗

存储芯片股(美光、闪迪、西部数据)贡献标普500今年近四分之一涨幅,但盈利预期上修动能减弱,行情从预期驱动转向业绩验证。下半年需依赖实际业绩支撑估值,否则可能成为波动来源。

博通与苹果扩大合作定制ASIC芯片合同延长至2031年
科技数码 · 2026-07-07

博通与苹果扩大合作定制ASIC芯片合同延长至2031年

博通与苹果达成新一轮多年期协议,将定制ASIC芯片合同延长至2031年,覆盖iPhone、iPad、Mac等多代产品。合作范围从连接组件扩展至定制芯片,股价盘前涨约5%。长期订单为博通营收带来稳定增长预期。

英特尔双面供电14A Gen2工艺迎战台积电三星1.4纳米
科技数码 · 2026-07-07

英特尔双面供电14A Gen2工艺迎战台积电三星1.4纳米

英特尔计划推出14A2工艺,采用双面供电架构并压缩金属间距至21纳米,以应对台积电和三星的1 4纳米攻势。此举可提升晶体管密度,但面临电阻增加等挑战,需借助复合供电方案维持稳定。

金山企业大脑发布,AI助力告别周报内卷提升业绩
科技数码 · 2026-07-07

金山企业大脑发布,AI助力告别周报内卷提升业绩

金山办公推出WPSComate“企业大脑”,基于“三通一平”(通Token、通数据、通API)理念,将AI嵌入生产,解决数据散落。实战中,定制Skill让员工免写周报,业绩预计增长300%-400%,实现企业级AI成本可控。