i∣≥δ
smooth L1 Loss其实就是Huber函数在
δ
=
1
delta=1
δ=1时的特殊情况。他具有L1 Loss，L2 Loss的优点，但是由于涉及到超参数
δ
delta
δ的选取，我们还需要通过不断迭代，来确定
δ
delta
δ的具体取值。它对异常值的偏好介于L1 Loss和L2 Loss之间，当你想照顾到异常值，又不想让异常值对模型训练产生太大的影响时，它可以作为一种折中的选择。
总结
我写这篇博客其实非常艰难。一边试图从理论的角度来理解这些函数，一边又发现无法完全通过理论来理解。计算机这门学科还是带有实验性质的一门学科，可能有些函数确实在一些实际情况中表现较好，虽然有很多凑的成分，但也被后人拿来用了。我在搜集资料的过程中，还发现网上对于一些名词的解释有些不同。这也可以理解，有些细节由于各种原因可能会产生细微的不同，但是总体不会相差太远。我这里选取了一些能够自圆其说的说法。其实作为一门实验学科，很难做到如教科书般严谨的阐述。在文章中，也加入了很多自己的理解，可能有些内容比较主观，也请大家批评指正！
原文地址:https://blog.csdn.net/liuzibujian/article/details/135252394
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如若转载，请注明出处：http://www.7code.cn/show_54512.html
如若内容造成侵权/违法违规/事实不符，请联系代码007邮箱：suwngjj01@126.com进行投诉反馈，一经查实，立即删除！
