能自己客制化 AI chip的公司也没几家
现在有走向hybrid cloud的趋势, data可能放在cloud provider,
但training会自建data center来做。
租cloud provider的算力来搞training其实很贵
石油 金融等行业有在这么搞了
还是会跟 NV (或AMD 或 intel 或其他AI chip startup) 买芯片来 training
※ 引述《stiga (stiga)》之铭言：
: → Brian23: 车子需要管功秏吗? 又不是手机 08/21 10:18
: → Brian23: 自驾在使用也是在发动时，又不是待机 08/21 10:19
: 推 Reenter: 车子电池大还是要省啊，开个自驾里程只剩80%能看吗？ 08/21 11:58
: 推 outzumin: GPU 本来就只在learning有优势 08/21 13:39
: → outzumin: 其他都是I家天下 08/21 13:40
: 问车子需不需要管功耗是一个非常有趣的事情
: 讲个我朋友的 "看法"
: 我这位朋友现在在SD一家做自驾卡车的公司做自驾
: 他直接跟我说：
: 做自驾，NV还很长一条路要走
: 他觉得最后能够成功做自驾的大概就是Tesla跟大型车了
: Brian跟Reenter两个人讲的其实半对半错 两两互补
: 这边"功耗"的意义有两个层面
: 第一个是 你单位时间用掉多少电？
: 第二个是 你的电池有多少电？
: 现在Brian的问题其实Reenter回答的不太算对
: 因为直接拿GPU跑自驾最大的问题是是什么？不是电池不够大
: 最大的问题是一片GPU以P100为例，大概是250W左右
: 你可以看看有多少汽油车能够推得动几片250W串一起的功率
: 这也是为什么他会说他觉得要用GPU的话 自驾最后会是Tesla的天下
: 不是Tesla技术特别牛逼 是这一块就是只有电动车跟大车推得动
: 所以现在很多自驾不是走CV-base了 但是不走CV-base又会出现问题
: Lidar跟Radar都爆炸贵 他说他之前在装prototype的时候 搬那个Lidar胆战心惊的
: 不小心掉下去可能一年工资就没了XD 所以这东西目前也不太可能真的拿来给大众用
: 我自己是做ML Infra的 所以对自驾这块相对不熟
: 但是Nvidia我觉得最终还是会有一些瓶颈在，他在training的确是很猛
: 但是我觉得他本质问题还是他是一个General Purpose的东西
: 当所有大公司有自己的规模之后 肯定还是会走向自己客制化
: 目前我们公司内部training看起来还是无解得用Nvidia
: 但是inference这块基本上Nvidia不是很好的solution了
: 那为了跟股版有点连结
: 还是说一下 我觉得Nvidia短中期可以买XD
: 我们公司年初跟Nvidia定了4000片V100，到现在拿到不到1000片
: 八卦好像是 当初某公司在P100跟V100之间抉择的时候 决定赌一波搞了个选择权
: 导致V100现在多数都先被某公司吃下来了
: GPU这块目前感觉还是偏抢手