Dice Loss

定义

将 Dice Coefficient 转换为 Loss，相当于直接优化 Dice 指标（以及 IoU）。由于 Dice Loss 是直接优化重叠的前景区域的（分子），故其能够较好的处理类别不平衡的问题，特别是对于分割的前景目标比较小的时候。

设 $p_i$ 为模型预测的像素概率， $g_i$ 表示真实的标签(0/1)， $N$ 是像素数量，以公式的形式写出 Dice Coefficient （基于像素的）计算如下

$$Dice=\frac{2{\sum }_{i=1}^N{p}_i{g}_i}{{\sum }_{i=1}^N{p}_i+{\sum }_{i=1}^N{g}_i}$$

目标是最大化 Dice，转换成 Loss 需要最小化，故 Dice Loss = 1 - Dice，即

$$DiceLoss=1-\frac{2{\sum }_{i=1}^N{p}_i{g}_i}{{\sum }_{i=1}^N{p}_i+{\sum }_{i=1}^N{g}_i}$$

为了避免分母为 0，同时提高训练的稳定性，通常加入平滑项（smooth）

$$DiceLoss=1-\frac{2{\sum }_{i=1}^N{p}_i{g}_i+ϵ}{{\sum }_{i=1}^N{p}_i+{\sum }_{i=1}^N{g}_i+ϵ}$$

$ϵ$ 一般为 $1e-5$。

对于多类别分割任务，使用 Dice Loss 时候通常是对每个类别计算 Dice Coefficient 然后取平均

$$Loss=1-Dic{e}_{multi}=1-\frac{1}{C}\sum _{c=1}^{C}Dic{e}_c$$

局限

1. 训练初期不稳定：因为分母依赖预测值。
2. 梯度不平滑：尤其在预测很差时。
3. 像素级信息较少：Dice关注整体重叠，不像 CE 逐像素优化。