Re: [请益] DGX Station 或是 自组

楼主: denru01 (阿儒)   2018-10-02 22:25:53
感谢回复!
※ 引述《skycat2216 (skycat2216)》之铭言:
: ※ 引述 《denru01 (阿儒)》 之铭言:
: : 标题: [请益] DGX Station 或是 自组
: : 时间: Tue Oct 2 14:19:14 2018
: :  
: : 这几天DGX Station又大降价(降了60万),
: : 开始在考虑是不是要购入一台,
: : 主要看上的是他用NVLink2互连的4张V100 32GB.
: : (虽然他的Peak Flops很高, 但正常使用跟便宜的游戏卡其实差没太多)
: : 我知道Tesla相比GTX或RTX有点太贵了,
: : 但目前工作一直卡在GPU Memory太小的这个问题上,
: : V100的下一级P100或是Titan V,
: : GPU Memory都只有16GB而已,
: : 太小不够用.
: GV100比较适合,而且V100也有32GB,你到底拿哪张?
GV100又比V100更贵了. 我说的是Tesla V100 32GB.
Deep Learning使用.
: : DGX Station的宣传都是说提供128GB GPU Memory,
: : 不知道这纯粹是说有4张32GB GPU,
: : 还是这128GB是可以当成是1张有128GB的GPU呢?
: 后者,NVLink的好处
: : 如果是后者,
: : 这个是靠NVLink2达到的,
: : 还是DGX Station有什么巫术?
: 同上
这个在实际上使用是什么情况呢?
1. 使用nvidia-smi看到一张巨大的GPU?
2. 使用nvidia-smi看到四张GPU但可以用某些指令把他们合成一张?
: : 除了直接购买DGX Station外,
: : 也在考虑买V100或是其它的卡来自组.
: : V100一张大约27万左右,
: : 自己买4张再加上其它东西的费用,
: : 其实也跟直接买差不了多少,
: : 而且NVLink2是不是买不到?
: 你现在用的RTX其实用的就是NVLink,不过价格加上不能用在专业用途加上你要四路需要特
: 殊卡,不如直接败一套DGX
非商业使用无妨.
: :  
: : 另一个选择是如果NVLink2可以把很多张GPU的memory模拟成一张一起用的话,
: : 买8张Titan V或许是更实惠的选择.
: Titan V(ista)只支援双路NVLink
RTX 2080支援双路, 但RTX 2080 Ti似乎支援三路?
: :  
: : 不知道有没有先进有经验能够分享一下?
: : 或是有什么办法模拟出超大GPU的Memory的方法?
: HBCC,来自AMD的技术
这个好像也没有toolbox支援.

Links booklink

Contact Us: admin [ a t ] ucptt.com