Re: [新闻] 亚马逊Alexa改采自家研发芯片 降低对辉

楼主: waitrop (嘴砲无双)   2020-11-16 16:28:16
AI 芯片市场分成两块: edge, server/cloud
台湾其实没有那么悲观,
至少联发科可以吃到edge的市场,
另外,国内外比较小型的新创AI芯片公司也都是瞄准edge的市场,
所谓的edge,就是泛指手机,监视器,家电,Alexa, Nest,天猫精灵,小爱等,
其特色就是便宜,毛利率低,功耗低,
Nvidia没兴趣吃的市场,
这个市场目前是联发科,寒武纪等公司吃下大部分市场,
但是由于门槛不高,要求效能也不高,
所以很多大厂也开始自制这块,
像说华为手机就把寒武纪换成自制NPU,
不过联发科还是相对安全,
有拿到大部分的edge市场,
但是不少新创公司正在抢食这块市场,
而且背后有大厂支持甚至有大厂订单,
至于本文中的Alexa edge应该还是用联发科的,
一台卖你49.99, 自制根本不合成本,
文中提到的Alexa 云端,
才是用亚马逊自制的芯片,
也是现在利润最高竞争最激励的市场,
目前server/cloud 的AI芯片市场,
主要玩家是Nvidia, Google,
以Nvidia为例, server/cloud最便宜一张卡都要一两千美金,
一台机器至少都要两三万美金,
而且这种等级的机器效能不够,
无法用在Google, Amamzone, Facebook的AI training/inference,
这些公司用的机器一台要30-50万美金以上,
这才跑得动search, youtube, facebook等,
所以Nvidia这是暴利,
老实说,Nvidia卖这价码是真的太不合理,
我待过的所有公司内部都有推算过,
自制TPU/NPU只需要Nvidia 价码的1/2 - 1/10,
内部使用量越大就省越多,
所以你会看到FAAMG,阿里,华为,百度全都开始自制AI芯片,
甚至自驾车量大之后也开始自制AI芯片,
就效能而言TPU是Nvidia效能的十倍以上,
毕竟Nvidia GPU还是以绘图为主体,
ML运算只是辅助功能,
也就是说Nvidia芯片里头有很多区块AI运算是根本用不上,
还是回到老话一句,
因为Nvidia太好赚,
他卖你一张显卡里头很多功能你都用不到,
你只是为了跑ML运算还是必须吃下来
但是TPU/NPU也是有很大的应用上缺点,
因为这些芯片是特别对某些功能加速,
比方说有些对search加速,有些对语言处理加速,有些对影像处理加速,
所以这些TPU/NPU只能用在特殊领域,
并不适合给大部分的人使用来跑AI运算,
除非是像FAAMG,阿里,华为,百度这些公司有非常大的特殊需求,
像是需要花好几B只是为了要search加速,
或是花好几B只是为了双十一跟感恩节网拍更有效率,
这就非常需要自制AI芯片
所以回到台厂跟新创公司的问题,
台湾根本就没有掌握任何大型软件应用市场(search, 拍卖,影音等),
所以根本没有这种需求必须自制AI芯片,
想自己做AI芯片卖给FAAMG,阿里,华为,百度?你在做梦吗?
同样的道理可以套在新创公司上,
想抢server/cloud AI市场,根本在做梦
※ 引述《CavendishJr (真礼梅西姐姐♡)》之铭言:
: 1.原文连结:
: https://bit.ly/2IF6Eff
: ※过长无法点击者必须缩网址
: 2.原文内容:
: 亚马逊Alexa改采自家研发芯片 降低对辉达依赖
: 亚马逊 (AMZN-US) 周四表示,Alexa 语音助理部分运算将改采自家设计的芯片,希望提升
: 速度、降低成本。此举也意在降低对辉达 (NVDA-US) 芯片的依赖。
: 亚马逊 Echo 使用者询问 Alexa 时,问题得先传送回亚马逊的资料中心并经过几个处理步
: 骤,等亚马逊电脑得出答案,也要把这些文字转换成语音资料,再由 Alexa 回答。
: 之前这些运算工作都使用辉达的芯片,但亚马逊决定未来“绝大多数”的工作将由自家研发
: 的“Inferentia”机器学习推论芯片处理。这款芯片最早在 2018 年推出,用于加快大量机
: 器学习资料的处理速度,例如把文字转换成语音或人脸辨识。
: 拜亚马逊、微软 (MSFT-US)、Alphabet(GOOGL-US) 对运算芯片的畅旺需求之赐,辉达和英
: 特尔 (INTC-US) 等的资料中心业务蓬勃发展。但愈来愈多大型科技公司抛弃传统芯片供应
: 商,转而自行设计芯片,例如苹果周二 (11 日) 正式推出首款搭载自行研发 M1 芯片的 Ma
: cBook,和英特尔分手。
: 亚马逊表示,部分 Alexa 作业流程改用 Infertia 芯片之后,延迟情况改善 25%,成本降
: 低 30%。
: 亚马逊曾表示,云端人脸辨识服务 Rekognition 已经开始采用 Inferentia 芯片,但亚马
: 逊并未透露先前采用哪一家厂商的芯片,或是改用自家芯片的比率占多少。
: 亚马逊的人脸辨识服务因为被用来执法受到人权团体高度关注,全美 6 月因为非裔公民佛
: 洛伊德之死爆发大规模抗议活动之后,亚马逊暂停授权给警方使用,为期一年。
: 3.心得/评论:
: ※必需填写满20字
: 大家都想要用自制芯片
: 这是种趋势吗
: 拿翘了呢

Links booklink

Contact Us: admin [ a t ] ucptt.com