如何确认是否出现梯度爆炸？

How can you tell whether exploding gradients are happening?

题目类型: 技术面试题

这是一道技术面试题，常见于澳洲IT公司面试中。

难度: medium

分类: Deep Learning

标签: Detection, NaN Loss, NaN Weights, Gradient Monitoring

参考答案摘要

答案 训练过程中出现梯度爆炸会伴随一些细微的信号，如：1）模型无法从训练数据中获得更新（如低损失）。2）模型不稳定，导致更新过程中的损失出现显著变化。3）训练过程中，模型损失变成NaN。如果你发现这些问题，那么你需要仔细查看是否出现梯度爆炸问题。以下是一些稍微明显一点的信号，有助于确认是否出现梯度爆炸问题。1）训练过程中模型梯度快速变大。2）训练过程中模型权重变成NaN值。3）训练过程中，每个节点...

本题提供 STAR 原则详细解答和技术解析，登录匠人学院学习中心即可查看完整答案。