神经网络计算标准四大标准步骤

神经网络计算标准四大标准步骤：

• 第一步，构建网络，设计网络拓扑结构，定义前向计算函数、损失函数，梯度计算函数和参数更新函数。
• 第二步，将训练数据集乱序，然后按mini_batch分成num_batches个样本小组
• 第三步，依次将mini_batch个样本送入神经网络计算预测值 > 损失值 > 梯度，并更新网络参数
• 第四步，重复epochs轮训练，直到损失值不再下降为止。

---

为减少损失值震荡，总样本数最好能整除mini_batch，避免最后一个min_batch的数量与之前相差很大 不能整除，震荡大 能整除，震荡小