ServiceNow优化AI搜索难题:提升评分准确性与结果可靠性的关键策略
当搜索引擎返回结果时好时坏,同一问题的多次检索答案质量参差不齐,这种困扰用户体验的现象背后,正揭示着当前人工智能检索系统的核心缺陷。ServiceNow公司在arXiv平台发布的最新论文指出,现有技术框架无法为文档提供绝对相关性评分,导致跨问题比较时频频出现评分失真。这项突破性研究不仅揭示了传统训练方法在理论基础上的局限性,更开创性地提出了基于统计检验的创新解决方案。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
传统双编码器架构通过比较问题与文档的“数字指纹”相似度进行排序,但采用对比学习法的训练过程存在根本性漏洞。研究团队通过数学推导证明,现有系统仅能维持文档间的相对排序关系,对绝对分值完全不敏感。就像批改试卷的老师只关注排名而不计实际分数,系统可能将复杂问题的优质答案评为低分,却给简单问题的普通答案打出高分。这种评分标准的不统一,使得设定全局过滤阈值成为不可能任务。
针对这一顽疾,研究团队开发的Mann-Whitney损失函数借鉴了统计学中的分布检验方法。该技术要求系统对任意正负文档对进行全局比较,确保相关文档得分始终高于无关内容。通过优化分数差值的sigmoid函数,新方法实现了训练目标与评估指标(AUC)的直接对齐。实验数据显示,采用该技术的XLM-RoBERTa-Large模型在自然语言推理任务中,AUC指标从0.73跃升至0.88,且性能提升在四种不同规模模型上呈现一致性。
跨领域验证实验进一步佐证技术普适性。在覆盖生物医学、法律、金融等14个领域的BEIR基准测试中,新训练方法在绝大多数场景下取得性能优势。特别是在科学文献检索任务中,AUC指标提升达11个百分点,有效解决了研究者被表面相似但内容无关文献干扰的痛点。研究还发现,模型规模与泛化能力呈正相关,中等规模模型采用新技术后,性能可超越传统方法训练的大型模型。
尽管新方法需要增加15-25%的训练时间进行全局成对比较,但其推理阶段计算成本与传统系统持平。研究团队通过优化负例采样策略和批处理技术,将额外计算开销控制在可接受范围。更关键的是,该方法对超参数设置具有较强鲁棒性,降低了实际部署的技术门槛。对于需要稳定评分阈值的应用场景,如自动问答系统和内容过滤引擎,新技术展现出显著优势。
在检索增强生成系统的应用测试中,采用新训练方法的模型展现出更精准的文档筛选能力。通过建立全局一致的评分体系,系统能够更可靠地识别高质量参考文档,从而提升生成答案的准确性。这种改进对于医疗咨询、法律文书生成等对准确性要求极高的领域具有重要价值。
技术实现层面,开发者仅需替换损失函数计算模块即可完成系统升级。研究团队建议采用困难负例挖掘技术优化采样效率,并通过ROC曲线分析验证分数校准效果。对于生产环境迁移,渐进式部署策略被证明能够有效控制风险。这种无需改动模型架构的设计,使得新技术可以快速融入现有训练流程。
该研究引发的行业关注不仅在于性能提升,更在于其理论创新价值。通过建立训练目标与评估指标的数学关联,研究为机器学习算法一致性提供了新范式。这种将理论洞见转化为工程实践的研究路径,为解决其他需要全局校准的AI任务提供了重要参考。随着技术应用的深入,检索系统在准确性、可靠性和泛化能力方面的突破,或将重新定义信息检索的技术标准。
热门专题
热门推荐
4月3日消息,今日,vivo年度影像旗舰X300 Ultra正式开售,新机定位专业V单+口袋摄影机,影像能力全面拉满。vivo X300 Ultra配备蔡司大师镜头群,覆盖14mm蔡司超广角、35m
4月2日消息,微软资深Windows工程师Raymond Chen发布长文,呼吁用户和企业IT团队,不要每次在系统出现问题后就第一时间将责任归咎于Windows更新。Chen指出,许多被归咎于每月更
近期,日本玩家围绕卡普空旗下女性角色视觉风格的变迁展开了广泛讨论。有玩家将十年前以当时技术水准塑造的代表性美少女角色玛莉·萝丝,与近年运用最新技术打造的英格丽德进行对比,认为后者在角色表现力上并未体
有多少资深玩家还记得AQUAPLUS旗下那款经典的恋爱冒险作品ToHeart?多年来,关于推出第三部续作的呼声始终不绝于耳。然而,这一计划事实上已被官方终止。近日,该公司社长在一次访谈中透露了项目搁
2026年4月5日,电动自行车行业正面临双重压力:国家层面的以旧换新补贴政策正式退出,叠加原材料成本持续攀升,导致终端售价普遍上调,市场销售明显承压。根据2026年最新实施的消费品以旧换新政策,电动





