首页 新闻 会员 周边

模型不收敛是怎么回事?

0
[待解决问题]

模型不收敛是怎么回事?
模型不收敛是怎么回事?

人工智能技术与咨询的主页 人工智能技术与咨询 | 菜鸟二级 | 园豆:228
提问于:2022-09-07 10:38
< >
分享
所有回答(1)
0

1、反向传播链断裂

即其中有部分的变量可能被转换为 numpy 数组,虽然仍然能够参与计算,但却失去了梯度传播的能力,导致无法向后面的变量传播梯度

2、学习率设置不合理

如果学习率设置得太大,则容易造成 loss 变成 nan,导致模型不收敛,设置得太小,则会导致模型学习得很慢

3、神经网络层参数没有进行好的参数初始化

因为参数初始化会影响到模型的训练速度

机器学习123 | 园豆:242 (菜鸟二级) | 2022-09-07 11:41
清除回答草稿
   您需要登录以后才能回答,未注册用户请先注册