原文标题：“地表最快”AI 芯片发布，哈佛辍学的本科生挑战英伟达
原文连结：https://www.sohu.com/a/788693870_413981
发布时间：2024-06-26 20:01 来源: 爱范儿
记者署名：
原文内容：
在谈到AI、大模型、算力等关键字时，如果要提及硬件产品，很多人应该会不假思索的说
出英伟达。
一位华尔街分析师曾如此评论到：
人工智能领域正在进行一场战争，而英伟达是唯一的军火商。
的确，在AI 时代下，英伟达的地位是独特又难以撼动的。但现在，有一位勇者准备正式
挑战这个局面。
2022 年，Gavin Uberti 和Chris Zhu 创立了Etched.ai。他们从一开始就获得了包括
Ebay 前CEO Devin Wenig 在内的536 万美元的种子轮投资。
在刚刚宣布融资1.2 亿美元后，Etched 又发布了目前的最快的AI 芯片
此Sohu 非彼搜狐，它号称可以在毫秒级别的时间里处理数千个单字。每秒能处理超过50
万个tokens，运行Llama 70B 模型。
什么概念呢？这就相当于可以在两秒钟内写完《圣经》，或是一年写15 兆个tokens。
根据Etched 官网介绍，Sohu 在硬件层面上整合了Transformer 架构，是第一个专为
Transformer 模型设计的专用芯片（ASIC）。
正是这种专用性，为Sohu 带来了效能的巨大提升。相较于英伟达H100，Sohu 的推理速度
相提升了8 至10 倍。
搭载八片Sohu 芯片的服务器，可以取代整整160 个英伟达H100 GPU。
对于程式场景，Sohu 可以透过蒙特卡罗树搜索，并行相应数百个结果，给出最优秀的答
案。
无论是语音助理还是智慧客服，Sohu 都能做到在几毫秒内分析数千个单字。
并且Sohu 还支援多重推测解码，可以以极快的速度即时生成新的内容。作为全球首款Transformer 专用积体电路（ASIC）芯片，每张Sohu 芯片只有一个核心，
使用了台积电4nm 制造工艺，并配有144GB HBM3E 高频宽内存。
相较于英伟达的下一代Blackwell（B200）GPU，Sohu 的速度提高了一个量级，价格也会
更便宜。短短两年时间，Etched 从零开始成长到现在这番模样，实在是一个“奇蹟”。
Etched 的创办人Gavin Uberti 和Chris Zhu 都是华裔，两人也都有丰富的背景。Gavin Uberti 和Chris Zhu 都曾就读哈佛大学，度过了一段大学部生活。后来出于一些
原因，他们选择休学一年，并在OctoAI 找到了一份实习工作。
当时两人的工作内容，主要是负责ApacheTVM 开源编译器和微内核开发。但在实习时，他
们发现Arm 的指示集中的一些设计十分低效，使得他们的工作效率很差。
Gavin Uberti 说到：“这个问题无法解决，每次工作时我都得面对这个问题，这让我和
Chris 觉得我们必须做得更好。”在思考如何解决这个问题时，他们突然发现可以利用
这个想法来设计一款AI 加速芯片。
于是两人便选择了从哈佛辍学，创办了一家专注于LLM 的AI 芯片新创公司—— Etched。
在Gavin Uberti 看来，通用公版设计无法带来获得突破性的效能提升，所
以他们才研发Transformer 架构下的专用加速芯片。
Gavin Uberti 曾说：
必须在单一架构上下大力气，让芯片处理AI 任务，目标太大了，必须要针对更具体的任
务来设计芯片… 我们认为英伟达最终会这么做。目前主流的AI 产品如ChatGPT、Claude、Gemini 和Sora 等，都是以Transformer 架构驱
动的。作为全球首款Transformer ASIC 芯片，再配上如此亮眼的成绩，Etched 自然也
是吸引了一大波关注。
6 月25 日，Etched 宣布完成1.2 亿美元的A 轮融资。这次融资由纽约创投机构Primary
Venture Partners 和Positive Sum Ventures 共同领投。
其天使投资人阵容也十分强大，包括创投家Peter Thiel、GitHub 执行长Thomas Dohmke
、自动驾驶公司Cruise 的共同创办人Kyle Vogt， 以及Quora 的共同创办人Charlie
Cheever，
在2022 年创立之初，Etched 就看中了Transformer 将会占据主导地位的未来。 Gavin
Uberti 表示，“我们在人工智能领域下最大的赌注。”
如果我们赌对了，Sohu 将改变世界。这就是我们敢于下注的原因。
心得/评论：
搞AI芯片都一定要有华人血统才纯正? (误)
继上次说有整片晶圆就是一个芯片设计的公司后
另一个真正有实力挑战NVIDIA的公司出现了
号称比GB200还快八倍的芯片
不过要挑战我大辉达，先能越过CUDA的护城河再说
https://i.imgur.com/NIYC5CT.png