本文字数为 454 字, 预计读完大约需要 2 分钟
吴恩达人工智能课程第二周笔记三： 机器学习基础
上一节中我们通过训练集和测试集误差来判断算法的偏差或者方差是否偏高，帮助我们更加系统地在机器学习中运用这些方法更加系统的优化算法性能：
下面以一张流程图表示整个神经网络模型训练过程中使用偏差和方差的具体过程。
有两点需要注意：
-
高偏差和高方差是两种不同的情况。我们后续要尝试的方法也可能完全不同。就上上图所说，如果你的算法存在高偏差的情况，那么准备更多的数据是不起什么作用的（至少不是最有效的方法）。因此要清楚是存在偏差问题还是方差问题或者是这两者的问题都存在
-
在机器学习初期阶段，关于偏差方差均衡讨论屡见不鲜，原因在初期没有什么工具可以做到在减少偏差的情况下可以不影响方差的分布，或者在减少方差的情况下不影响均差的分布。但在当今深度学习和大数据时代，只要训练了足够深的网络和有足够的数据，只要正则适度，通常构建一个更大的网络便可以在不影响方差的情况下减少方差，采用更多数据通常可以在不过多影响偏差的同事减少方差。这也就是我们现在不用太关注于偏差和均差的均衡化问题的原因。
本文由 MengFly 创作，采用
知识共享署名4.0
国际许可协议进行许可
本站文章除注明转载/出处外，均为本站原创或翻译，转载前请务必署名
最后编辑时间为:2018-06-07 00:00:00
相关文章推荐：