Re: [请益] 显示卡3060 12g 跑深度学习 问题请益

楼主: pfii1997119 (阿宽)   2023-03-19 21:49:49
※ 引述《pfii1997119 ( )》之铭言:
: 不好意思打扰各位 爬了许多文章但还是有点隔靴搔痒的感觉
: 我想要组一台深度学习的电脑 (NLP相关)
不好意思 我是原PO 当初的文章没有写得很清楚
非常谢谢各位愿意花时间看完我的文章并在下面给我的留言以及建议
每条留言我都有看 非常感谢留言的各位!
以下我就先Po出菜单 下面再解释一下我目前的状况
CPU (中央处理器):Intel i5-13600K, $10200
MB (主机板):技嘉 Z690 AORUS ELITE AX DDR4, $6990
RAM (内存):十铨 T-Force Vulcan Z 32GB(双通16GB*2) DDR4-3600/CL18, $2299
VGA (显示卡):↓
目前想法是3060 12g (品牌不限)
买全新会去德源 (感谢板友留言推荐) or 征二手
或是各位根据我的状况再帮我推荐一下 非常感谢你们
Cooler (散热器):Scythe 虎彻3(SCKTT-3000), $990
SSD (固态硬盘):美光Micron Crucial P5 Plus 1TB
M.2 PCIe 2280/读:6600M/写:5000M/3D TLC颗粒/五年, $2499 (艺人店)
HDD (硬盘):暂无
PSU (电源供应器):
全汉 CST130 Basic 黑 /压克力透侧/M-ATX
+ 全汉 HYDRO GSM PRO 650W/金牌电源, $2890
CHASSIS (机壳):↑ (与电供搭配)
MONITOR (萤幕):沿用
Mouse/KB (鼠键):沿用
OS (作业系统):沿用
不含显示卡价格: 26219
备注:
我目前是就读德国的研究所 硕二 第四学期 课都修完了 剩下论文
但因为家人生病的关系 所以这决定这学期待在台湾写论文
有跟教授协调好 我远端写论文并固定几周时间跟教授在线上meeting
写完之后再回去德国口试这样
教授人还蛮好的 说题目自己定
他的专长是NLP方面的 如果真的想不到可以找他拿题目
我自己修他的课也觉得NLP还算有趣 所以这阵子会再看论文多多钻研一下
因为没有教授或是研究所的资源
现在有两个方向可以选择 第一个就是选择google colab pro月租
第二个选择就是自组一台电脑 写完论文之后也会继续使用
自己是倾向第二个 可能写完论文后会把显示卡卖掉 其他部分就照常继续使用 当文书机
如果板友有用过google colab pro的心得也很欢迎跟我说
我还在这两个选项中犹豫
目前的预算大概就是30k左右 可以小爆 希望组完之后可以继续使用五年以上
如果有更好的选择 或是什么建议都很欢迎底下留言
很谢谢电虾板友的各位帮助 大感谢!
作者: tomsawyer (安安)   2023-03-19 21:58:00
听说colab pro是p100/v100/a100
作者: yenchieh1102 (香蕉史塔克)   2023-03-19 22:00:00
colab看起来不吃自有电脑资源,你要不要直接用看看,体验不好就是实体显卡了你应该先做看看你的实验用的资源是CPU多还是GPU现在应该多是吃GPU,那其实CPU跟主板拿12400+B板也够用了,$$all in显卡,平行运算的爽感无法言喻
作者: otosaka (学生会长我老婆啦)   2023-03-19 22:12:00
这板子根本塞不进去这个壳…
作者: jasn4560 (jasn4560)   2023-03-19 22:12:00
原价屋的P5plus不知道再贵几点的
作者: trywish (一一二)   2023-03-19 22:13:00
3060不算难找的卡,去问问有没朋友让你跑看看。如果真的很吃显卡,3060的效能应该会跑到无奈
作者: otosaka (学生会长我老婆啦)   2023-03-19 22:16:00
原价屋P5 plus没降价欸 欣亚都降到$2499了
作者: jen1121 (Old_Hsiao)   2023-03-19 22:18:00
3060还是算了吧
作者: jahnson   2023-03-19 22:20:00
P5 Plus又慢又热又贵,换ADATA S70 Blade
作者: Transposon (跳死你)   2023-03-19 22:21:00
如果可行kaggle 一周免费蹭30hr的p100
作者: class21535 (卤蛋王)   2023-03-19 22:24:00
原价屋虾皮P5 Plus有降 用卷会比欣亚便宜
作者: otosaka (学生会长我老婆啦)   2023-03-19 22:25:00
你可以直接同一家店买一买 叫工读生帮你组装好送来你的需求是MATX壳?还是其实没限制只是刚好看到这组便宜C+P?
作者: kkrrooxx (kk)   2023-03-19 22:28:00
先不说为什么你都在反美光,但我刚好也有S70,这支才是真的热到爆,一样待机状态下系统碟的980pro 1TB已经算热的也才45度,S70 2TB直接在56-57那边,拷贝档案直接冲上72度,看到你喊P5+热 结果推S70觉得有点…
作者: class21535 (卤蛋王)   2023-03-19 22:28:00
塔散便宜去京东买PA120
作者: dos01 (朵斯01)   2023-03-19 22:34:00
如果你跑的程式不吃CPU的话 要省可以拿12400的组合不过这就要你自己跑过才知道 毕竟我也不知道你在跑什么
作者: jasn4560 (jasn4560)   2023-03-19 22:34:00
s70/p5plus我是秒选p5 plus啦
作者: leo3258 (leo)   2023-03-19 22:37:00
Z690 AORUS ELITE AX DDR4 6990 罚站屋这张要去海鲜商城配折价卷才划算机壳供电拿组合比较便宜 你选这张至少要atx机壳才装的下sw300 air 1000p 2022c都有组合价塔扇要双塔
作者: kkrrooxx (kk)   2023-03-19 22:42:00
之前p5 plus 2tb还要6000的时候去推跳水的S70还能理解,现在两支几乎等价 想不出来不选p5 plus的理由,更好笑的是用太热这个点来打,结果我手上的S70根本热到爆
作者: Imyrr (宇)   2023-03-19 23:06:00
S70标配送散热垫,有装还会热吗?这个$2369左右Gen4最便宜
作者: jasn4560 (jasn4560)   2023-03-19 23:13:00
原po挑的主机板 标配散热垫 还会热吗? 同理
作者: kkrrooxx (kk)   2023-03-19 23:18:00
他的散热垫很小很薄,我用主机板自带的大散热片都会热了,应该是原本他自己主控就是很热
作者: s1011282 (阿凯)   2023-03-19 23:30:00
3060不推,虽然vram大可以调大batch size,但训练速度有点慢
作者: bear1414 (story)   2023-03-20 00:04:00
看说明似乎题目都还没订?等你有题目方向再决定显卡规格就好另外,已题目若没方向就请教授给几个再选,比较有效率
作者: s78513221 (TERIS)   2023-03-20 00:31:00
之前玩算图的心得是colab pro给的卡也不是很固定就算买Pro+也只是相对一般会员有优先权而已毕竟Google主力还是GCP的GPU算力或者TPU算力贩售
作者: xu3fu6xup6 (轮胎一枚)   2023-03-20 00:44:00
我自己用pro plus 一个月1500台币的那个,基本上还没看过a100以外的卡colab有个最大问题是他的cpu极度慢,如果你的模型反而是cpu特化的话那就不推荐使用colab
作者: inthepeace (peace)   2023-03-20 00:45:00
如果要上13600k的话,塔扇要上AG620
作者: timofEE (新人)   2023-03-20 01:42:00
也要看显示卡支不支援Cuda torch等等版本问题甚至我同学就遇到3090太新跑不了要改用1080ti不过应该要在价钱可以接受的程度尽量拉高等级3090的batch size可以设到8又跑超快同样的程式在1080ti下就只能设到1在某些紧急的时候真的会差很多尤其论文通常会很紧急的要突然改什么东西要结果出来
作者: AmigoSin (JohnWall)   2023-03-20 03:25:00
赶硕论的话建议租colab,不要用自己的机器等他慢慢练
作者: yoyo178134 (安安尼玛)   2023-03-20 04:29:00
Gcp 300块先用一用 用完再换下一个300
作者: suitup (hey Suit Up!)   2023-03-20 08:05:00
如果预算受限的话3060算唯一选择了 跑得慢至少比不能跑好
作者: oopFoo (3d)   2023-03-20 09:14:00
现在NLP包含深度学习这块已经被LLMs disrupted。就像2013年时,传统电脑CV开始被NN取代。现在业界学界全力转向LLMs好好重新选择题目。现在先买3060是个好选择,跑跑小模型试试东西,真的需要大量训练的就花小钱买云端GPU。过个一两年,也可卖掉3060换更适合的显卡。最后不需要再卖掉显卡。显卡算比较保值。
作者: start928 (我是人)   2023-03-20 09:58:00
之前写论文也是租了colab 真的好用 反正论文写几个月就写完了 如果之后也没显卡需求 很推直接租 比起3060快很多的!
作者: GoGoJoe (gogojoe)   2023-03-20 11:08:00
你真的有看吗 技嘉这张要配SSD拿 cooler用AG620/PA120
作者: moraz0834 (daan)   2023-03-20 11:35:00
Pro Plus也是都拉到A100
作者: mtc5566 (56不难过)   2023-03-20 19:09:00
技嘉这张主机板拿欣亚搭SSD的组合最划算 塔散用虎彻3不够 要换PA120
作者: Virness   2023-03-20 22:46:00
colab 52.5花下去了 自己买要调环境速度又比3060快 不会串接问gpt跑出模型再用gcp azure aws去架站
作者: amy79968 (neverdie)   2023-03-20 22:56:00
13600k至少搭个AG620比较够用 其他会自己组的话没什么问题了

Links booklink

Contact Us: admin [ a t ] ucptt.com