1. PTT
  2. Marginalman

懂深度学习的请进

楼主: sustainer123 (caster)   2024-12-16 17:36:56
一样分布式训练的问题
我拿fashion MNIST当实验品
然后十次叠代
超参数随便调
单卡跟DP的Batch设64
4卡设16
跑出来的时间分别是
单卡:49秒
DDP:84秒
DP:107秒
我无法理解为啥DDP会低成这样
而且我用4张A100 没道理输一张A100吧
楼主: sustainer123 (caster)   2024-12-16 17:37:00
模型就DNN 随便搓的
继续阅读
[闲聊] 全世界选美都在政治正确VedanRe: [ZZZ] 1.5的内鬼资讯更新ParkChanWookRe: [闲聊] POE2whatthefk[日旅] 来乡下看风景SadolapapaRe: [对话] JIWP要不要买这个toy123456655Re: [BGD ] 中国台湾，“北漂”到台北的年轻人，正在JoJo111[台篮] 闹场就是闹场，什么祝对方圣诞快乐，十几joejoe14758Re: [闲聊] 你板麦块大师请进crimsonmoon9[姆咪] 还有糕手v03516020[闲聊] 车上的三角警示牌都放哪里kevinlee2001

Links booklink

Contact Us: admin [ a t ] ucptt.com