Re: [菜单] 60K 深度学习机

楼主: kuarcis   2018-04-15 14:05:08
这边提供一些个人实作上的经验
目前要组深度学习机,假如你同时符合以下三个情境:
A.目的是为了学怎么开发(没有已经做好的模型)
B.要在某个期限之内有明确产出或结论
C.资金不足以直接全部设备攻顶的状况下,
强烈建议先把资金砸在CPU上
为什么呢?
因为深度学习有一件很重要的事情叫做tuning
tuning的时候很难预期参数或是layer到底好不好
这种状况下最好的策略是:开很多个不同参数的模型,一起训练
假设你是用NVIDIA的显卡跑计算,会遇到一个问题:
NVIDIA的显卡,一个GPU一次只能跑一个任务(计算)
执行的时候可以多个执行序一起排队等GPU用
但是计算的时候,所有执行序还是要排队等GPU闲下来
可以参考quora上这篇问答:
https://goo.gl/8thHLG
用CPU同时跑模型其实有类似的问题
但是CPU核心很便宜(跟GPU比),可以直接1950X或是买xeon/epyc解决
接下来,就是真正的问题:
你的模型用CPU跑跟用GPU跑,速度到底差多少
一样回到前面的三个情境
假如你发现你的模型用CPU跑跟用GPU跑速度只差一倍
(这在开发过程中很合理)
但是你的程式码在同时训练多个模型的时候,
GPU版的程式码要排队等GPU核心空闲,CPU版的不用
差距会缩小,
甚至整个tuning的过程,可能用CPU做比较快
至于你的程式有多少执行时间,是用在GPU外处理资料的部分
那就是另外一个故事了
大guy4john
※ 引述《bear1222 (棕熊)》之铭言:
: 已买/未买/已付订金(元):未买
: 预算/用途:练习深度学习,不玩游戏
: CPU (中央处理器):Intel i7-8700 3.2GHz
: MB (主机板):华硕 ROG STRIX Z370-F GAMING
: RAM (内存):金士顿 16G*2 DDR4-2133
: VGA (显示卡):EVGA GTX1080 FTW GAMING ACX3.0 8G
: HDD (硬盘):WD 1TB (10EZEX) 蓝标
: SSD (固态硬盘):Intel 760P 256G
: DVD-RW (烧录机):无
: PSU (电源供应器):海韵 Focus+ SSR-750FX 750W
: CHASSIS (机壳):F.D R5(永夜黑)静音款
: MONITOR (萤幕):无
: Mouse/KB (鼠键):无
: 其它 (自填):CPU散热:快睿 H7
: Windows 10 64bit 中文家用随机版
: 注意1:自称小妹或会透露自己性别的举动要注意可能会引来不必要的纷扰,请注意。
: 注意2:标题是否有写明"预算"、"用途"? 没有请按Ctrl+x 然后按T改标题
: 注意3:请多加利用线上估价系统来进行估价以及价格查询 (仅供参考)
: 禁止任何估价系统的连结,估价系统的估价单号
: 与估价系统网址的数字。视为估价单单号。
: 与相关包含手写、excel、估价系统的撷图连结。
: 2017/07/01会处罚。
: 菜单文与情报文,禁止任何估价系统连结与撷图、包含文字估价单号码。
: (参阅板规1-2-3、1-3-9)
: 违反者:删文、水桶十日。
: 注意4:为保障您的权益,购物消费请索取统一发票,并尽量以含税价取货
: 注意5:若有任何问题请先洽询板务。
: 除了练习Python TensorFlow、Pytorch等深度学习框架外
: 偶尔也会用Visual Studio写写C++ code
: 都主要着重于影像处理、电脑视觉领域
: 请各位大大不吝指教了,谢谢!
: 总价 (未税/含税):60068

Links booklink

Contact Us: admin [ a t ] ucptt.com