1、为什么使用正则化
图一欠拟合,图二正拟合,图三过拟合
2、正则化的方法
正则化通过对算法的修改来减少泛化误差,常用的策略有参数范数惩罚、提前终止、DropOut等。
2.1、L1和L2正则化
代码如下:(可以在某一层的layer中指明正则化类型和超参数)
2.2、DropOut正则化
随机删除某些节点
代码如下:
2.3、提前停止
代码如下:
图一欠拟合,图二正拟合,图三过拟合
正则化通过对算法的修改来减少泛化误差,常用的策略有参数范数惩罚、提前终止、DropOut等。
代码如下:(可以在某一层的layer中指明正则化类型和超参数)
随机删除某些节点
代码如下:
代码如下: