泛化
大家都希望训练集后获得的模样能够识别出从未见过的样本，这种能力就是泛化能力，所以测试集不会参与模型的训练，而是特意特意留出来以测试模型的泛化性能，模型的参数是由训练数据自动调整的，而超参数指不被学习算法覆盖的参数，比如神经网络中的学习率，随机梯度下降算法中的mini batch 大小等，验证集被划分出来就是用于评估模型的泛化能力，并以此为依据优化超参数的。
从训练集中划分出验证集，一方面验证集不参与训练，可以评估模型的泛化能力，另一方面，可以从评估的结果中进一步改善模型的网络架构，超参数。
基于标签的学习称为有监督学习
参考，https://zhuanlan.zhihu.com/p/29297934
网友评论