1、Ground Truth

Ground Truth是指正确标注的数据，也就是以某种参考值作为真实值。

例如，根据历史数据预测某一时刻的温度，Ground Truth就是该时刻的实际温度。

再如，在医学影像分析中，找到某个医生对解剖结构进行边缘勾画的参考值，可以作为算法评估的真实依据。

2、Batch

Batch是指批大小，这是一个超参数，用于定义在更新外部模型参数前需要处理的样本数量。

在深度学习中，通常采用随机梯度下降法（SGD）进行训练，每次训练会从训练集中选取一定数量的样本进行处理。

优点：合理选择Batch Size能够在内存效率和内存容量之间找到最佳平衡点。

3、Epoch

Epoch是指训练周期，它定义了学习算法在整个训练数据集上的运行次数。

一个Epoch等于所有训练样本的一次正向传播加上一次反向传播。

4、Iterator

Iterator是指迭代次数，一次Iterator相当于使用一个Batch进行一次训练。

迭代是指重复执行某些动作的过程，在神经网络中，我们希望通过多次迭代来达到预期的目标或结果。

每次迭代的结果将作为下一次迭代的初始值。

Batch、Epoch、Iterator 对比

相对于常规数据集，如果Batch Size设置得过小，会导致训练数据难以收敛，容易出现欠拟合现象。增加Batch Size可以提升处理速度，但同时会增加所需的内存容量（因为需要更多的Epoch才能达到最优效果）。这导致了一个矛盾的问题：随着Epoch次数的增加，耗时也会相应增加，从而影响整体速度。

举例来说，如果有1000个样本，每个Batch包含10个样本，那么完整地训练一遍所有样本需要1个Epoch和100次Iterator。