深度学习的正则化是什么？

Question

介绍深度学习中常见的正则化。什么正则化，有什么方案，如何解决？

Answer 1

L1 正则化（Lasso）
原理
使用场景
优缺点
L2 正则化（Ridge）
原理
使用场景
优缺点
Elastic Net 正则化
定义
公式
优点
缺点
应用场景
Dropout
原理
使用场景
优缺点
早停法（Early Stopping）
原理
使用场景
优缺点
Batch Normalization (BN)
原理
使用场景
优点
缺点
权重衰减（Weight Decay）
原理
使用场景
优点
缺点
剪枝（Pruning）
原理
应用场景
优点
缺点
————————————————

                        版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
                    

原文链接：https://blog.csdn.net/haopinglianlian/article/details/145134382