人工智能技术近年来的发展速度确实惊人,在各行各业的渗透也日益深入。不过,当技术真正落地到具体业务场景时,往往都会遇到一些相似的瓶颈。把这些共性问题梳理清楚,对后续的优化工作会非常有帮助。
背景
AI在行业落地过程中,通常面临以下几个绕不开的核心难题:
(1)基础数据的缺乏
业务场景中积累的数据量通常有限,且大部分属于私有数据。标注质量参差不齐,管理也不够规范,导致整体数据质量偏低。数据基础薄弱虽然已是老生常谈,但确实是不少项目折戟的第一道门槛。
(2)人才的缺失
真正精通AI技术的人才大多集中在互联网大厂或独角兽企业,愿意深入行业做落地的相对较少。既懂AI技术、又熟悉具体业务的复合型人才更是稀缺资源。这在很大程度上制约了AI在行业中的实际应用。
(3)模型的可靠性、业务指标可达成性的问题
与“搜推广”这类场景不同,许多刚需业务对指标的要求极为苛刻。例如工业质检中零部件的缺陷检测、数量统计,通常要求准确率超过99%。这对AI模型的可靠性、准确性和稳定性都提出了极高要求。
下面,我们就从模型优化的路径出发,聊聊具体的数据迭代方法。
AI落地行业的数据迭代方法
2.1 AI落地行业的一般流程
一个AI项目从头走到尾,基本可以归纳为三个阶段:设计、开发、测试与上线。对于算法主导的落地场景也不例外。

技术方案确认、模型选型完成后,就进入模型开发阶段。该阶段的核心步骤可以总结为:

通常,在业务需求明确、技术选型敲定后,团队会迅速收集并标注第一波原始数据(或利用公开数据),做一些简单的调参,快速产出初版模型。与此同时,也需要同步准备好业务场景的测试集。这里有一个关键:测试集必须是业务场景的抽象,最好能和业务专家对齐。对于初版模型Top3的问题分析,一定要重视,要用统计指标说话,找到问题根源,再制定合理的解决方案。
核心可以总结为以下几点:
- 快速产出初版模型(充分利用互联网、公开数据和已有的业务现场数据)
- 测试集是业务场景的抽象,必须与真实业务场景契合,最好与业务专家对齐
- 分析问题要有统计指标支撑,关注Top3的主要问题,并找出合理的解决方案(包括模型、数据、业务逻辑等)
2.2 数据准备
快速构建初版模型,离不开数据准备工作。是选择快速标注,还是利用已有数据,会直接影响开发周期。下面以一个具体例子介绍两个数据收集的小技巧。
假设当前任务:红外相机拍摄的野生动物识别。这个任务可以拆分为两个部分:野生动物目标检测和物种识别,分别对应一个目标检测模型和一个识别模型。
2.2.1 初始版本数据积累——充分利用公开数据
目标:快速产出初版模型
大部分任务都能找到一些公开数据集(当然也不排除某些特殊场景,开源数据确实难找)。
初版野生动物的目标检测数据可以从两个方面入手:
- 通用目标检测的公开数据集,比如COCO、Object365、OpenImage等
- 红外相机的公开数据集——如果仔细调研,这类数据其实不少,训练基础模型基本够用

野生动物的目标识别数据同样可以从两个方面入手:
- 公开数据,先确认是否有符合任务需求的物种类别
- 对于相对特殊的物种,可以借助百度、Google、抖音、快手、YouTube等图片/视频搜索工具,进行针对性爬取(合规性暂不讨论,大规模爬取的风险需自行评估)。这种方式的问题在于数据清洗成本较高,需要设计好清洗方案

2.2.2 数据迭代——让数据分布更贴合实际业务场景
目标:让训练数据的分布尽可能贴近真实业务场景
测试集合:在业务场景中收集符合需求的测试数据
数据迭代:依靠基础数据训练出的初版模型,大概率只能解决一部分问题,远不能满足真实业务需求。真实的场景往往复杂得多,需要持续迭代。在完成初版模型和业务场景测试数据分析后,针对主要问题,可以通过数据合成、数据仿真、业务场景数据挖掘等方法,弥补训练数据与实际业务数据分布不一致带来的问题。
继续用上面的例子来展示:
假设初版模型在测试集上表现不佳,发现野生动物的目标检测主要问题有两类:
A:误检较多
主要原因在于公开数据虽然前景丰富,但背景比较简单,丰富度不够。从下图可以看出,真实场景的背景复杂度远高于公开数据。解决方案是:找到或构造背景复杂且符合业务场景分布的数据,可以使用Copy-Paste方法或其他手段。

B:存在遮挡的哺乳动物容易漏检
这个问题需要分两步走。首先,明确算法的边界——这个边界也是标注规则的标准(可以先定一个初版,后续再迭代)。比如,遮挡小于多少比例需要召回。其次,看模型和数据两方面分别有哪些合适的方案。模型方面需要关注的点包括:Loss的计算、数据增强以及预处理对遮挡部分的影响等。
做完这两步,基本上算是及格了。恭喜,突破了及格线!这个水平的模型大概率可以初步上线了。但也仅仅是合格而已,要想出彩,还得精细打磨。

2.2.3 效果精细打磨阶段
大的优化点已经完成,但距离“出彩”还有差距。精细打磨阶段可以分为两个方向:
A:与业务相关
- 业务逻辑和交互体验如何与模型更好地适配
- 线上数据流程如何更合理化,以及如何弱化一些错误问题、建立有效的反馈机制——这些都与业务紧密相关
B:模型优化
- 一些重要但难以解决的Case如何优化
- 新的技术能否引入到模型优化中
这部分的实验成功率普遍偏低,但也是技术壁垒的重要体现。
AI落地小众行业的工具类
如果业务刚刚起步,或者行业规模较小、预算有限,可以跳过这部分。但如果项目已具备一定规模,且业务相似度高,合适的工具能显著提升迭代效率和人力效能。
(1)数据标注及管理平台
开源工具和网站有很多,最简单的如Labelme、LabelIMG等。前期用开源工具快速构建初版数据和模型完全可行。但如果业务规模较大且有一定规律,也可以定制化自己的管理平台,贯穿数据的接入、处理、利用三个环节,既能加快效率,也能给客户或领导提供更好的可视化效果。
(2)模型训练工具及平台
简单配置几台GPU机器、搭好基础环境也能跑起来。但算法组内部如果能沉淀一些通用的训练工具,效率会高很多。工具的本质是提高效率,工作中注意定期总结和沉淀就行。切记:不要为了造工具而造工具,没什么意义。
(3)部署相关工具与更新流程
包括边缘端和服务端的模型部署与更新流程。构建完整的部署流程和工具库,并做好文档留存,能大幅提升模型上线的整体效率。
