Re: [闲聊] 做程式的请进 umi0912umi PTT批踢踢实业坊

楼主: umi0912umi (UMI) 2024-02-05 20:37:27

所以有没有AI大师
C++或RUST在这领域怎么用的比屁眼少好多
这种吃效能的怎摸会是屁眼占多数
不过忘记llama还bert还谁的tokenizer是用rust
有人能内推我吗
我最近会用transformer跟mistral惹
QQ

作者: Apache (阿帕契) 2024-02-05 20:38:00

因为Data flow其实不在CPUC++跟Rust建置时间长到你想哭

作者: PyTorch (屁眼火炬) 2024-02-05 20:40:00

C++有一个套件阿什么Net著

楼主: umi0912umi (UMI) 2024-02-05 20:40:00

那2个没办法用到GPU喔?

作者: Apache (阿帕契) 2024-02-05 20:41:00

没必要效能好是牺牲开发效率换来的游戏的主流是把常见运算用C++包好上层用脚本调用

楼主: umi0912umi (UMI) 2024-02-05 20:42:00

干我是能大学读10年喔 transformer出来我都快毕业惹

作者: Apache (阿帕契) 2024-02-05 20:42:00

虽然UE是用C++做脚本啦

作者: Rushia (みけねこ的鼻屎) 2024-02-05 20:42:00

PY可以import C效能有差ㄇ==

作者: Apache (阿帕契) 2024-02-05 20:45:00

懒学的底层也是用C++先处理掉cuda调用最后才给Py bind

作者: wu10200512 (廷廷) 2024-02-05 20:45:00

通常都是pymodel弄好在移植到c++

作者: PyTorch (屁眼火炬) 2024-02-05 20:56:00

cuda就是C++底层阿不可能用python写的

继续阅读