从你描述的情况来看，可能有几个因素影响了你的训练时间，并且你目前的模型大小和训练
时间的观察并不完全符合预期。
训练集规模过小： 你提到使用的是Fashion MNIST，它的资料集规模相对较小（只有60,000
张训练图片）。这样的资料集可能会导致资料加载成为瓶颈，尤其是如果你使用的是硬盘来
读取资料，或者如果IO操作的效率不高，这会影响到训练的总时间。在训练过程中，模型的
计算时间相对较短，而IO时间（资料加载和预处理）可能占据了相当大的一部分。
训练过程中的计算瓶颈： 虽然ResNet34比ResNet18的参数量多，但其运算复杂度和每个epo
ch的计算时间可能并不完全线性地随着参数数量的增加而增加。ResNet34虽然参数更多，但
在某些情况下，可能由于层数增多和网络架构的不同，计算效率会有所不同，特别是如果使
用了不同类型的操作（例如，ResNet的skip connections等）。如果训练过程中存在瓶颈，
可能会在不同架构上造成时间差异。
MNASNet的设计： 你提到MNASNet系列的训练时间较长。MNASNet是为移动设备优化的架构，
通常会有较少的参数和较低的计算量，但它会利用一些特殊的策略（例如深度可分离卷积等
）来达到较好的效率。在这些架构中，某些操作的计算和GPU的利用可能会和ResNet不同，
进而影响实际的训练时间。
GPU效能利用： 你的训练使用的是单张A100，理论上A100的计算效能应该很高，但如果模型
的运算不够密集，或者计算图中存在一些瓶颈，这可能会导致GPU无法充分发挥其性能，从
而导致时间表现不如预期。特别是像MNASNet这类专为效率设计的架构，其运行效率可能不
如专为高性能计算设计的架构（如ResNet系列）。
批次大小（Batch Size）： 批次大小对训练时间有很大的影响。较小的批次大小可能导致G
PU资源的利用率较低，进而影响训练时间。如果你在使用这些不同模型时没有调整批次大小
，这也可能会造成时间上的差异。
总结建议：
检查资料加载速度：确保资料加载和预处理不会成为瓶颈，特别是在资料集较小的情况下，
I/O操作可能会占据大部分时间。
观察GPU效能：确保A100的利用率达到预期，可以使用工具如nvidia-smi来监控GPU的使用情
况。
调整批次大小：适当调整批次大小，根据你的硬件配置来获得最佳训练效率。
进一步分析运算瓶颈：使用如nvprof、TensorBoard等工具来分析具体的运算瓶颈，是否存
在某些层或操作占用过多时间。
如果资料集和硬件配置较小，且计算复杂度相对较低，那么可能会有更多时间花费在I/O或G
PU资源未能完全利用上。