Re: [请益] 两张3090深度学习用电脑

楼主: Ryan10 (瑞恩是10号)   2023-05-30 23:50:21
目前手边正有两张3090在跑DL,虽然不是绘图但还是手痒回个文顺便赚点P币 欸嘿
实验室有5张A6000,但xeon的单核好烂管理系统还不能设container的shm
只好自己弄一台 马的
※ 引述《brid (鸟哥)》之铭言:
: 标题: [请益] 两张3090深度学习用电脑
: 时间: Tue May 30 15:14:10 2023
:
: 如题,最近实验室要新增一台电脑
: 预计是两张二手3090要跑深度学习(AI绘图)
: 没有选4090是因为怕烧(实验室常常没人)
: 想请问以下问题(除了显卡都以全新为主)
: 1.3090 如果要跑x16/x16的话板U建议怎么拿,还是说拿一般的板子跑x8/x8即可?
我这边跑在pcie4 x16和pcie3 x4,训练速度体感是没差就是
但我的模型不大
: 2.内存拿64G应该很够了吧?
: 3.机壳有没有推荐的?预计要装满14cm的风扇和两张3090
: 老师有点白色控,如果价差不大可以推荐看看一些白色的零件,RGB不需要没关系
: 机壳预算5k左右,板u不知道行情,但也是希望以够用为主
先说我的配备
12700k
msi pro z690a wifi d4
随便16g*2
随便ssd好几条好几个
msi 3090 ventus 3x 装上面
evga 3090 xc3 双下面 反过来的话会烫到爆
海盗1000w
Antec P100(没看错 8年多前的壳)
U和板是之前矿潮的时候捡的,星星那张来自虾皮另一张来自隔壁板
入手价是蛮便宜啦,但隔壁板那张她妈清了狗干久
星星那张也有过风扇很大声送修 还好没有拒保 如果买二手便宜卡要有心理准备
再来就是散热,能开侧板的话真的随便的壳都没关系
不能开的话应该大部分的壳都很刺激喔
另外要注意几个点
第一是一定很热,尤其上面那张卡
本身进气条件就不好了,又会吸到下面那张卡的热空气,除非用鼓风扇
但3090基本上没这东西的样子
第二是两张卡中间那个m2插槽请当作没有
根本没干嘛就热到跳掉 笑死
另外就是windows的docker desktop效能有够烂 换到linux后直接起飞 又笑死
顺便回几个推文 感觉不少人对这种运算机不太熟?
: 推 hbk20491: 没人3090就没危险? 05/30 15:15
: → hbk20491: 高功耗在跑人一定要在 05/30 15:15
没差吧 我看别间实验室A100也没人在顾 一堆小矿场也没人在顾
: → oppoR20: 强烈建议3090Ti 05/30 15:16
: → oppoR20: 我们lab热坏一张3090了 05/30 15:16
3090ti有比较好吗 默认功耗比较高 还是原po最怕的pcie5供电
虽然好像不会烧就是
90的双面vram热坏就...送修?
3090ti最大问题应该还是价格 前阵子普遍多4到5000 还没有可以砍价的矿卡
现在3090也涨起来就不知道了 但的确是一个可以考虑的选项
: 推 hbk20491: 3090发炉大户 你敢24小时让他维持80几度以上??4090超 05/30 15:19
: → hbk20491: 低温不超过60度 05/30 15:19
为啥不敢 才80度 桌机用户vs笔电用户.jpg
另外就是3090降个公耗基本上不会影响太多
: → oppoR20: 高功耗没人在没差啦 哪有那么夸张 05/30 15:21
: → oppoR20: 多得是把机器放在其他地方的lab 05/30 15:21
把机器放在研究室才是少数吧XD
热得要死 如果是服务器型还吵得要死 放隔壁都听的到zz
: 推 ZhouGongJin: 怕热就油冷啊,反正能报帐。 05/30 15:26
真幽默
: 推 mrme945: 不用啊,华硕那张W680就可以了,还可以上ECC内存,不过 05/30 15:36
: → mrme945: 两槽有点近,卡的位置不是很好安排 05/30 15:36
要塞的下XD 现在的卡都狗干大张==
: → GZEN: 那热量真的劝你再想想 05/30 15:40
我隔壁同学每天强迫享受三温暖 免费的真棒
如果冬天的话很爽就是 可惜夏天到了
: 推 boren: 共同供应契约买个绘图工作站直接配好就行了,出保不囉嗦 05/30 16:27
: → boren: 喔对了,显卡就配两张A6000,买什么3090 05/30 16:34
会这样问肯定是预算不够啊 a6000一张18万组两台还有剩 也没跑比较快
vram是多很多啦 但用不到=浪费馁
: 推 Ahhhhaaaa: 1. 不需要买x16/x16的板跟U,因为3090跑不满pcie 4.0x8 05/30 16:48
: → Ahhhhaaaa: ,所以买个有x8/x8即可 甚至你不强求的话可以x16/x4 05/30 16:48
: → Ahhhhaaaa: 要买x16/x16你干脆直接上A6000、或者下一代的6000 ada 05/30 16:48
其实我觉得 有没有要NVlink是两回事 但原po没有说这部分
如果要nvlink感觉就有机会需要双x16 单纯靠那个小东西的频宽应该没那么大?
但我没用过我也不知道
当初丽x的人说那个很难用叫我们不要浪费钱 笑死
: 推 liang1123: 有办法请到经费的话就找厂商上绘图工作站R 二手3090谁 05/30 17:37
: → liang1123: 知道有没有被操出内伤 到时出问题你会被钉飞 05/30 17:37
赶快毕业就没事(X
: 推 annboy: 1. CPU只会影响前处理 拿i9 主机版拿x8/x8因为DL训练瓶颈 05/30 18:03
: → annboy: 在卡内 x8跟x16最多最多不会超过5% 05/30 18:03
: → annboy: 内存要大于 VRAM综合的两倍 所以要超过96 请拿128G 三 05/30 18:04
: → annboy: 条插满 05/30 18:04
: → annboy: 3. 联力 O11D XL 05/30 18:05
: → annboy: *四条插满 05/30 18:06
i9不一定有用吧 我看我一个训练都只有单核吃满 剩下都不高 总使用率大概30%
感觉i7应该就够了馁 当然这种东西没在嫌少的XD
至于ram我觉得要看跑什么 我这边大概吃16g不到 笑死
: → s3503s: 3090太烫 一张都很抖 建议要就两张4090 05/30 18:12
: 推 s3503s: 真的要塞就找类似矿架的 不然两张叠在一起 机壳多大都没 05/30 18:15
: → s3503s: 用 05/30 18:15
450w vs 350w 要确定馁 但如果是矿架的话都不烫就是
: → y40103: 建议4090 为了怕烧用3090听起来很瞎 05/30 18:45
有点好笑,但4090太贵太大张,原po看起来有预算问题
选两张二手3090我觉得合情合理
: → GZEN: 对了你基本上还要上双电供 能选的机壳从一开始就很有限了 05/30 18:49
不用== 才两张3090 一颗1000w凉凉 会怕就1300w 电没有不稳的话搞不好比显卡还能撑
200w.jpg少看点
: → mtc5566: 用4090+1 至于怕烧那真的没办法.. 05/30 20:56
为啥大家那么喜欢4090
不知道欸 电虾板乡民研究所的实验室都是土豪实验室ㄇ
虽然4090看tflops效能是3090的两倍多,但dl很吃vram频宽
我记得conv之类的效能好像就1.6倍 vram也没有比较多
20k vs 48~50k 多60%效能好像没有很优
然后还超大 搞不好塞不下第二张
以上供原po参考 祝早日脱离苦海
但现在才在组应该是硕一或博班 感觉还久 帮qq
作者: oppoR20 (R20)   2023-05-30 23:55:00
3090Ti的内存放在正面 散热好很多顺带一提 我们lab热坏的就是Ventus 3090欸嘿 我们lab内就一台3090 一台1080Ti*2放前面喔不是每个lab都很多额外空间可以放虽然我们lab有另一间放10张A5000就是了现在不是共约的问题吧 是二手你要哪里报帐除非你有办法搞定报帐问题啦
作者: game0502 (囧mnmnmn)   2023-05-31 00:00:00
3090有鼓风扇阿,技嘉的,然后好像被关切就下架了
作者: oppoR20 (R20)   2023-05-31 00:00:00
古风扇放lab更吵....光Ventus在讯的时候我做远远都觉得吵死了 转速还60^
楼主: Ryan10 (瑞恩是10号)   2023-05-31 00:02:00
oppo你害我现在怕爆== 拜托先让我train完…股风扇真的超吵 之前把a6000拔出来拿去玩vr就吵爆是说我觉得不用担心报帐问题欸 找厂商或是用人事费出掉方法很多 他会这样问应该就是有办法吧
作者: game0502 (囧mnmnmn)   2023-05-31 00:04:00
双槽鼓风扇根本神器,算图插好插满
作者: oppoR20 (R20)   2023-05-31 00:06:00
我现在拿12cm风扇对着背板吹 会怕了
作者: brid (鸟哥)   2023-05-31 00:08:00
感谢!! 不止解决我的问题 还帮我把其他人的问题一并回答完了XDD
作者: oppoR20 (R20)   2023-05-31 00:08:00
linux不知道有没有看VRAM温度的 想看到底多高温然后温度就 无解 要美观的话只能买那种风很大的机壳要不然直接开侧板 拿小电扇直接吹我之前是直接拿小电扇吹 温度降很多啦
作者: shin2190 (伯里斯)   2023-05-31 00:34:00
itx +3090鼓风扇(现役https://i.imgur.com/ldrnzzO.jpg
楼主: Ryan10 (瑞恩是10号)   2023-05-31 00:44:00
shin大你那张好棒喔 好想弄个3 5张拿来督服务器XD
作者: shin2190 (伯里斯)   2023-05-31 00:58:00
鼓风扇版至少在各大通路买了3.4个月有,收二手应该不难
作者: s3503s (shun)   2023-05-31 01:02:00
鼓风扇就之前技嘉有出xd最后还有出清过
作者: shin2190 (伯里斯)   2023-05-31 01:10:00
华硕也有,原价屋还直接卖过华硕鼓风扇版的裸卡/工业包
作者: mesmerising (mesmerising)   2023-05-31 01:48:00
用矿架可以解决很多问题

Links booklink

Contact Us: admin [ a t ] ucptt.com