深度学习相关知识点

epoch/batch/batch_size的关系

• Epoch：模型在整个数据集上完成一次训练。一个epoch后，模型已经看过所有的训练数据，执行了正向传播和反向传播。通常训练需要多个epoch，模型才能逐步学习和收敛。
• Batch：由于在深度学习中，数据集通常非常大，因此在每次训练时，将数据分成多个小的batch（批次）。每个batch中包含一部分数据，并且每次模型的前向传播和反向传播都仅处理一个batch的数据。作用：这样做可以降低内存需求，并且可以通过小批次的数据来更频繁地更新模型参数。
• Batch size：指的是每个batch批次中包含的训练样本的数量。它决定了每次训练时模型处理的数据量大小。
  三者关系：一个epoch中可以包含多个batch，每个batch包含batch_size个样本。

dense visual prediction

中文术语不太确定：稠密视觉模型？密集视觉预测？
特点：逐像素预测，与单一标签输出相对
稠密视觉模型旨在为输入图像中的每个像素分配一个特定的标签或预测值，从而实现对图像的细粒度理解和分析。与仅为整个图像生成单一标签的任务（如图像分类）不同，密集视觉预测需要对每个像素位置进行细致的分析和处理。
常见的密集视觉预测任务包括：语义分割 (Semantic Segmentation)；实例分割 (Instance Segmentation)；深度估计 (Depth Estimation)；

logits

在应用激活函数（如softmax）之前的原始分数