微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

l2-loss,l2范数,l2正则化,欧式距离

欧式距离:

分享图片

l2范数:

分享图片

l2正则化:

分享图片

l2-loss(也叫平方损失函数):

分享图片

http://openaccess.thecvf.com/content_cvpr_2017/papers/Li_Mimicking_Very_Efficient_CVPR_2017_paper.pdf

分享图片

 

总结:l2范数和欧式距离很像,都是开根号。l2正则化和l2-loss都是直接开平方。上面这篇mimic的paper,就是用的l2-loss,可以看到他写的公式就是在l2范数上开平方。也可以这么理解,对于loss,需要求梯度,如果有根号后,梯度的计算就变得复杂了。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐