AIHGF

Caffe - 训练时 Loss 变为 nan 的原因[转]
使用caffe训练时Loss变为nan的原因From [原创|使用 caffe 训练时Loss变为 nan 的原因...
扫描右侧二维码阅读全文
18
2018/05

Caffe - 训练时 Loss 变为 nan 的原因[转]

使用caffe训练时Loss变为nan的原因

From [原创|使用 caffe 训练时Loss变为 nan 的原因]
From [Deep Learning 之训练过程中出现 NaN 问题]

1. 梯度爆炸

  • 原因:

    梯度变得非常大,使得学习过程难以继续

  • 现象:

    观察log,注意每一轮迭代后的loss。loss随着每轮迭代越来越大,最终超过了浮点型表示的范围,就变成了NaN。

  • 措施:

    1. 减小solver.prototxt中的base_lr,至少减小一个数量级。如果有多个loss layer,需要找出哪个损失层导致了梯度爆炸,并在train_val.prototxt中减小该层的loss_weight,而非是减小通用的base_lr.3
    2. 设置clip gradient,用于限制过大的diff

2. 不当的损失函数

  • 原因:

    有时候损失层中loss的计算可能导致NaN的出现。比如,给InfogainLoss层(信息熵损失)输入没有归一化的值,使用带有bug的自定义损失层等等。

  • 现象:

    观测训练产生的log时一开始并不能看到异常,loss也在逐步的降低,但突然之间NaN就出现了。

  • 措施:

    看看你是否能重现这个错误,在loss layer中加入一些输出以进行调试。

    示例:有一次我使用的loss归一化了batch中label错误的次数。如果某个label从未在batch中出现过,loss就会变成NaN。在这种情况下,可以用足够大的batch来尽量避免这个错误。

3. 不当的输入

  • 原因:

    输入中就含有NaN。

  • 现象:

    每当学习的过程中碰到这个错误的输入,就会变成NaN。观察log的时候也许不能察觉任何异常,loss逐步的降低,但突然间就变成NaN了。

  • 措施:

    重整你的数据集,确保训练集和验证集里面没有损坏的图片。调试中你可以使用一个简单的网络来读取输入层,有一个缺省的loss,并过一遍所有输入,如果其中有错误的输入,这个缺省的层也会产生NaN。

    案例:有一次公司需要训练一个模型,把标注好的图片放在了七牛上,拉下来的时候发生了dns劫持,有一张图片被换成了淘宝的购物二维码,且这个二维码格式与原图的格式不符合,因此成为了一张“损坏”图片。每次训练遇到这个图片的时候就会产生NaN。良好的习惯是,你有一个检测性的网络,每次训练目标网络之前把所有的样本在这个检测性的网络里面过一遍,去掉非法值。

4. 池化层中步长比核的尺寸大

如下例所示,当池化层中stride > kernel的时候会在y中产生NaN

layer {
  name: "faulty_pooling"
  type: "Pooling"
  bottom: "x"
  top: "y"
  pooling_param {
  pool: AVE
  stride: 5
  kernel: 3
  }
}

致谢:

http://stackoverflow.com/questions/33962226/common-causes-of-NaNs-during-training

-----------------------

一般来说,出现NaN有以下几种情况:

1.如果在迭代的100轮以内,出现NaN,一般情况下的原因是因为你的学习率过高,需要降低学习率。可以不断降低学习率直至不出现NaN为止,一般来说低于现有学习率1-10倍即可。

2.如果当前的网络是类似于RNN的循环神经网络的话,出现NaN可能是因为梯度爆炸的原因,一个有效的方式是增加“gradient clipping”(梯度截断来解决)

3.可能用0作为了除数;

4.可能0或者负数作为自然对数

5.需要计算loss的数组越界(尤其是自己,自定义了一个新的网络,可能出现这种情况)

6.在某些涉及指数计算,可能最后算得值为INF(无穷)(比如不做其他处理的softmax中分子分母需要计算exp(x),值过大,最后可能为INF/INF,得到NaN,此时你要确认你使用的softmax中在计算exp(x)做了相关处理(比如减去最大值等等))

参考:
http://russellsstewart.com/notes/0.html

Last modification:October 9th, 2018 at 09:31 am

Leave a Comment