Re: [请益] 资工系大一新生求未来方向指点

楼主: LDPC (Channel Coding)   2024-06-23 12:41:43
我如果重生回到大一 如果是念成大资工的话 有两种路线
1.攻略路线1
把妹把到大四 成绩找凉课修 晚上去夜市吃吃喝喝和打篮球 骑机车去山上看日出
到处玩耍 大三找专题教授 大四推甄 硕士去台交找mtk保证班
然后工作当社畜 结婚 买房 上批踢踢刷存在感 没了
====================================================================
2.攻略路线2
目标国外 练技能 先刷这些题目 https://github.com/rasbt/LLMs-from-scratch
多模态 https://github.com/haotian-liu/LLaVA
然后找实验室有A100 透过上面刷的题目 找些自己擅长的题目 刷HF冷门leaderboard
找不需要太多资源的项目来刷 练HuggingFace API和Pytorch 以下都是不需要大资源
(如果实验室没A100 用学校email去注册Lightning AI网站 那每月免费送A100一些算力)
I.语音
https://huggingface.co/spaces/hf-audio/open_asr_leaderboard
只要能刷到上榜 上传自己架构 把这个寄给Nvidia Nemo Team 找实习 一定能上
比方说 最简单去刷的题目就是拿SSM 照者Whisper架构重改一次 写好上传HuggingFace
细节参照这 https://huggingface.co/espnet/owsm_v3
上面题目理论上一个人单干应该可以看得出来
II.刷on-device 小型 LLM 设计 (1B)
参照TinyLLMA设计
https://huggingface.co/TinyLlama/TinyLlama-1.1B-Chat-v1.0
只要8~16颗A100就可以去刷 (成大不至于连一个8颗A100都没有吧...)
刷完之后 上传模型到HF 然后寄履历到果家on-device team找实习
III.Fine-Tune VQA系列
设计细节参照 https://github.com/haotian-liu/LLaVA
用上面这个去设计一个DoCVQA 然后你就可以去Adobe PDF team实习
这年头网络资料很多 你只要找个实验室有A100就好 替他们打打工
刷ICASSP/ACL Finding/ICMI 就好 其他AAAI/CVPR/ICML/NerurIPS强烈不建议刷
刷那个会魔怔 虽然我还真看到有几个小大一自己刷出那些鬼玩意...
================================================================
我强烈推荐路线1 \@n@/ 路线2很难走 容易卡关 到最后都要等价交换 用健康和家庭交换
路线2-I刷完 硕士去台大找李宏毅或者台大尤达 他应该可以把你弄到MIT去 然后去国外前
快交个女友 不然容易单身到死............

Links booklink

Contact Us: admin [ a t ] ucptt.com