Re: [问题] 跑Keras的model正常GPU使用率会是多少

楼主: pipidog (如果狗狗飞上天)   2018-03-13 03:28:53
※ 引述《HumuHumu (呼姆呼姆)》之铭言:
: ※ [本文转录自 deeplearning 看板 #1QfakpUB ]
: 作者: HumuHumu (呼姆呼姆) 看板: deeplearning
: 标题: [问题] 跑Keras的model正常GPU使用率会是多少
: 时间: Mon Mar 12 17:43:12 2018
: 我已经重复安装很多变anaconda cudnn cuda等等了
: 但是我跑keras的model不管怎样跑起来的速度都还是跟使用CPU跑的速度差不多
: 而且打开工作管理员,GPU使用率都只有7~8%左右
: 请问这样是有在用GPU跑的吗??
: 我不管装几次都是这种结果 我不知道该怎么解决他呜呜呜
看了一下你的推文,你用的是Geforce 1080,这种等级的卡,跑个
小ANN(我猜你的ANN,指的是MLP的意思吧?)你期待看到啥GPU使用
率? 1080有2560个cuda core啊. 用10%已经有256个core了.不少
了,如果你是用那种笔电内建的卡,也就2,3百个core的,这已经几
乎要满载了.
我的卡是Titan Xp,不要说这种小MLP了,就算是用CNN跑MNIST都是
低于10%. 你真的想烧机,看看GPU使用率狂飙的快感,好歹也要
玩些几百MB起跳的影像模型,例如VGG16,或VGG19你才看的到1080被
操的不要不要的感觉.
所以玩玩看style-transfer吧,里面会用到Vgg16,跟Vgg19可以让
你操卡操到爽:
https://github.com/kevinzakka/style-transfer
* BTW, windows显示的那个使用率是copy engine的使用率,当你
的GPU内存很大的时候,copy自然就会低一点. 你要看GPU的计算
使用率,你应该要看的是compute_0那个字段.
楼主: pipidog (如果狗狗飞上天)   2018-03-13 03:31:00
BTW,而且你的GPU内存满载了,这表示你确实用到GPU了.不过满载不是因为资料大,而是TF默认都会占用整颗GPU,避免计算碎片化,你若是用PyTorch,则是要多少才用多少.
作者: aaaba (小强)   2018-03-13 07:58:00
赞赞赞
作者: HumuHumu (呼姆呼姆)   2018-03-13 16:01:00
感谢大大解惑,因为我一直觉得运算速度很慢,GPU使用率又低,所以我一直以为我灌错tensorflow版本
楼主: pipidog (如果狗狗飞上天)   2018-03-13 16:33:00
计算量太小,用GPU反而比CPU慢,因为光资料的搬动就花去不少时间了。这很正常。
作者: goldflower (金色小黄花)   2018-03-13 23:34:00
有gpu使用率就代表有用gpu啊XD 可用nvidia-smi看萤幕应该没啥影响

Links booklink

Contact Us: admin [ a t ] ucptt.com