资源经验分享神经网络不收敛的原因

神经网络不收敛的原因

2019-09-17 | |  133 |   0

原标题:神经网络不收敛的原因

原文来自:博客园      原文链接:https://www.cnblogs.com/mstk/p/11380747.html


1. Learning rate不合适,如果太大,会造成不收敛,如果太小,会造成收敛速度非常慢;

2. Batch size太小,每次迭代使用的样本数量太少,梯度方向不够准确,造成不收敛;

3. 网络太简单,一般情况下,网络的层数和节点数量越大,拟合能力就越强,如果层数和节点不够多,无法拟合复杂的数据,也会造成不收敛.

免责声明:本文来自互联网新闻客户端自媒体,不代表本网的观点和立场。

合作及投稿邮箱:E-mail:editor@tusaishared.com

上一篇:什么是梯度下降法与delta法则?

下一篇:5分钟了解OWL本体建模语言

用户评价
全部评价

热门资源

  • Python 爬虫(二)...

    所谓爬虫就是模拟客户端发送网络请求,获取网络响...

  • TensorFlow从1到2...

    原文第四篇中,我们介绍了官方的入门案例MNIST,功...

  • TensorFlow从1到2...

    “回归”这个词,既是Regression算法的名称,也代表...

  • 机器学习中的熵、...

    熵 (entropy) 这一词最初来源于热力学。1948年,克...

  • TensorFlow2.0(10...

    前面的博客中我们说过,在加载数据和预处理数据时...