[问题] 要多少GPU ram才能自己养一个neuro
楼主: attacksoil (击壤) 2024-10-09 20:07:19
语音转文字应该whisper就无敌了
文字转文字有llama3.2
文字转语音选择很多
延迟是个问题 还有中间的检索数据库要怎么架
但假设对延迟有一定容忍 就看她一个人在那里嘴
需要多少RAM才能自己养一个neuro???
文字转文字有llama3.2
文字转语音选择很多
延迟是个问题 还有中间的检索数据库要怎么架
但假设对延迟有一定容忍 就看她一个人在那里嘴
需要多少RAM才能自己养一个neuro???
作者: toulio81 (恩...) 2024-10-09 20:08:00
vedal好像是用租的
作者: justpopcorn (justpopcorn) 2024-10-09 20:21:00
问就是4090
作者: lay10521 (小伊达) 2024-10-09 20:40:00
租个A100
作者: vios10009 (vios10009) 2024-10-09 20:59:00
租GPT API
作者: miname (>.<) 2024-10-09 21:50:00
llama其实是dram benchmark, 内存需求就是版本号，7B=7GB以此类推
