图像语义分割是计算机视觉领域的一项核心任务，它要求模型对图像中的每个像素进行分类，从而精准地划分出不同物体或区域的边界。为了衡量模型的性能，业界通常围绕执行时间、内存占用和精度这三个维度设计评估指标。本教程将深入&浅出地介绍这些评估方法，帮助您快速掌握图像语义分割模型的评判标准。

深度学习已经应用在计算机视觉领域多个方面，在最常见的图像分类、对象检测、图像语义分割、实例分割视觉任务都取得了良好的效果，如下图所示：

深度学习在图像语义分割上已经取得了重大进展与明显的效果，产生了很多专注于图像语义分割的模型与基准数据集，这些基准数据集提供了一套统一的评判模型的标准。多数时候我们评价一个模型的性能会从执行时间、内存使用率、算法精度等方面进行考虑。有时候评价指标也会依赖于模型的应用场景而有所不同，精准度对一些严苛的使用场景是优先考虑的，速度是对一些实时应用场景优先考虑的。对语义分割模型来说，通常用下面的一些方法来评价算法的效果。

No.1 执行时间

运行时间或者速度是一个很关键的指标，特别是在模型部署以后的推理阶段。在有些应用场景下，我们知道训练模型所需要的时间也是有意义的，但是通常不是很重要。主要原因在于训练/学习不是一个实时需求，除非训练时间极其漫长或者训练时候运行速度极其慢。另外一个问题是，执行时间容易受到各种硬件资源不同的影响，所以一般情况下很难去统一度量，不考虑硬件资源，片面的通过执行时间来衡量模型好坏有失公平。

小提示： 如果您的应用是实时视频分析（如自动驾驶），执行时间就是最优先级；若只是离线标注，则可以容忍稍慢的速度。

No.2 内存占用

对所有的语义分割模型来说，内存是另外一个重要因素。尽管多数场景中内存是可以随时扩充的，但是在一些嵌入式设备上，内存也是很珍贵的。即使高端GPU卡，内存也不是无限制可以消费的，所以网络对内存的消耗也是一个评估考量的指标。

小提示： 在移动端或嵌入式部署时，应优先选择参数量小、内存占用低的轻量级模型（如MobileNet系列搭配轻量分割头）。

No.3 精度 (Accuracy)

精度是评价图像分割网络最主要也是最流行的技术指标。这些精度估算方法各种不同，但是主要可以分为两类，一类是基于像素精度，另外一类是基于IOU。当前最流行的语义分割方法评估都是基于像素标记为基础完成的。

假设总计有k+1分类（标记为L0到Lk，其中包含一个背景类别），P_ij表示类别为i的像素被预测为类别为j的数目。这样来说P_ii就表示TP (true positives)，P_ij与P_ji分别表示为FP (false positives)与FN (false negatives)。

像素精度

01 PA – (Pixel Accuracy)

最简单的度量计算，总的像素跟预测正确像素的比率：

通俗理解：就是所有像素中，模型猜对了多少个。但若某类像素数量极少，PA会偏向大类。

平均像素精度

02 MPA – Mean Pixel Accuracy

基于每个类别正确的像素总数与每个类别总数比率求和得到的均值：

小提示： MPA比PA更公平，它先分别计算每个类的准确率再取平均，避免大类主导结果。

平均并交比

03 MIoU – Mean Intersection over Union

这是语义分割网络的一个标准评价指标，它通过计算交并比来度量。这里交并比代指ground truth与预测分割结果之间。是重新计算TP跟 (TP + FN + FP) 之和之间的比率。IoU是基于每个类别计算，然后再求均值。公式如下：

重点： MIoU是目前绝大多数语义分割论文和基准数据集（如PASCAL VOC、Cityscapes）最常用的标准，几乎成为模型性能的“金标准”。

频率权重并交比

04 FWIoU (Frequency Weighted Intersection over Union)

它是MIoU的改进版本，会根据每个分类出现频率，对每个分类给予不同权重。它的计算方法如下：

通俗理解：如果某类在图像中间出现的像素极多（比如天空），FWIoU会赋予它更大权重，这样整体指标更贴合实际场景。

上述四种精度计算方法，MIoU是各种基准数据集最常用的标准之一，绝大数的图像语义分割论文中模型评估比较都以此作为主要技术指标。常见如下：

常见问题

Q1：MIoU和PA有什么区别？哪个更重要？

A： PA只计算整体正确像素的比例，容易被大量背景像素“稀释”真实能力；MIoU分别计算每个类别的交并比再求平均，能更客观反映模型对不同类别的分割效果。在科研论文中，MIoU是首选指标。

Q2：如果模型速度很快但MIoU很低，如何取舍？

A： 这取决于应用场景。如果是自动驾驶实时避障，速度优先，可适当牺牲精度；如果是医学影像辅助诊断，精度（MIoU）必须高，速度可以稍慢。没有绝对的好坏，一切以需求为导向。

Q3：内存占用和模型复杂度有什么关系？

A： 模型参数量越大，内存占用通常越高。深度可分离卷积、通道剪枝等轻量化技术可以有效降低内存占用。在嵌入式设备上，需要平衡内存占用和精度，例如使用MobileNetV3+DeepLabV3的轻量版。

通过以上介绍，您应该对图像语义分割模型的评估体系有了清晰的认识。实际应用中，请根据具体场景灵活选择关键指标，在速度、内存和精度之间找到最佳平衡点，从而选出最适合您任务的模型。

编辑：黄飞