如何判断一个神经网络是记忆还是泛化？

How can we tell whether a neural network is memorizing or generalizing?

题目类型: 技术面试题

这是一道技术面试题，常见于澳洲IT公司面试中。

难度: hard

分类: Deep Learning

标签: Memorization, Generalization

参考答案摘要

答案 具有许多参数的神经网络具有记忆大量训练样本的能力。那么，神经网络是仅仅记忆训练样本（然后简单地根据最相似的训练点对测试点进行分类），还是它们实际上是在提取模型并进行归纳？这有什么不同吗？人们认为存在不同之处的一个原因是，神经网络学习随机分配标签不同于它学习重复标签的速度。这是Arpit等人在论文中使用的策略之一。（得到是一个可以预测新事物的模型，效果好不就行了，判断记忆和泛化的目的是什么呢）

本题提供 STAR 原则详细解答和技术解析，登录匠人学院学习中心即可查看完整答案。