对标签平滑进一步的理解:
神经网络的训练目标从“1”调整为“1-label平滑调整”,意味着神经网络被训练得对自己的答案不那么自信。
假设想把图像分为狗和猫。如果看到一张狗的照片,训练NN(通过交叉熵损失)朝着狗的1和猫的0移动。如果是猫,训练的方向相反,1代表猫,0代表狗。对于二进制dog/cat示例,标签平滑为.1意味着目标答案将是.90(90%置信度)这是一个dog ,和.10(10%置信度)这是一个cat,而不是之前的1或0。由于不太确定,它充当了一种正则化的形式,提高了它在新数据上更好地执行的能力。