神经网络的批量大小如何影响准确性？

在训练神经网络时，您使用的批量大小不仅仅是一个数字。它有一个重要的作用。您会看到，您的批量大小基本上是在进行调整之前计算网络查看的训练样本数量。

使用小批量进行滚动，当然，它会更快地完成每个训练周期。但它变得复杂。你不想不看就跳下去，对吧？小步骤意味着复杂的路线，因此您的网络最终可能会在高精度区域周围蜿蜒曲折。这就像当你颤抖时试图击中目标——当然，有时你会击中目标，但你的整体准确性可能会摇摆不定。

但是，如果批量大小调得太大，情况就不同了。一切都刚刚稳定下来。您的网络的准确性不再那么不稳定——这就像用数字绘画而不是随心所欲。但请注意，您的网络可能会自满地停留在其舒适区域内，而无法进入那些真正高精度的角落。这是典型的欠拟合案例。