请简述应当从哪些方向上思考和解决深度学习中出现的over fitting问题？

From what directions should we think about and address overfitting in deep learning?

题目类型: 技术面试题

这是一道技术面试题，常见于澳洲IT公司面试中。

难度: hard

分类: Deep Learning

标签: Overfitting, Training, Regularization

参考答案摘要

答案 (1)选择合适的损失函数（choosing proper loss）神经网络的损失函数是非凸的，有多个局部最优点，目标是找到一个可用的最优点。非凸函数是凸凸不平的，但是不同的损失函数凹凸起伏的程度不同，例如下述的平方损失和交叉熵损失，后者起伏更大，且后者更容易找到一个可用的最优点，从而达到优化的目的。- Square Error（平方损失）- Cross Entropy（交叉熵损失） (2)...

本题提供 STAR 原则详细解答和技术解析，登录匠人学院学习中心即可查看完整答案。