原文标题：NVIDIA推核弹级GPU 搭台积4奈米制程“号称20个可撑全球网络量”
(请勿删减原文标题)
原文连结：https://reurl.cc/5GnlyV
(网址超过一行过长请用缩网址工具)
发布时间：2022-03-23 14:20
(请以原文网页/报纸之发布时间为准)
原文内容：记者高兆麟／综合报导
显示卡大厂辉达（NVIDIA）执行长黄仁勋在22日登场的年度GTC大会上，重磅宣布新一代资
料中心Hopper架构绘图处理器（GPU）NVIDIA H100，将采用台积电4奈米制程，效能大大提
升外，黄仁勋更说，只要20个 H100 GPU 就能撑起全世界的网络流量，显见其效能之高。
为推动下一波人工智能 (AI) 资料中心的发展，辉达宣布推出采用 NVIDIA Hopper 架构的
新一代加速运算平台，效能较上一代平台呈指数级成长。这个以美国电脑科学家先驱 Grace
Hopper 命名的全新架构，将接替两年前推出的 NVIDIA Ampere 架构。
NVIDIA 亦宣布推出首款采用 Hopper 架构的 GPU 产品 NVIDIA H100，这款 GPU 封装了 80
0 亿个电晶体，是全球最大且效能最强大的加速器，具突破性的功能，例如革命性的 Trans
former Engine 及具高度扩展性的 NVLink 互连技术，可用于推动极大规模的 AI 语言模型
、深度推荐系统、基因组学和复杂的数位孪生等领域的发展。
NVIDIA执行长黄仁勋表示，资料中心将成为 AI 工厂，用来处理海量资料并从中提炼出宝贵
的智慧。NVIDIA H100 是全球 AI 基础设施的引擎，让企业得以加速推动各项 AI 业务的进
展。
NVIDIA表示，H100 拥有 800 亿个电晶体，采用台积电 4奈米制程、专为满足 NVIDIA 加速
运算需求而设计，在加速 AI、高效能运算、内存频宽、互连和通讯方面具有重大进展，
包括每秒近 5TB 的外部连接速度。H100 是首款支援 PCIe Gen5 及首款使用 HBM3 的 GPU
产品，提供每秒 3TB 的内存频宽。20 个 H100 GPU 便足以支撑全世界的网络流量，让客
户得以运行先进的推荐系统和大型语言模型，即时使用各项资料进行推论。
H100 的多项技术创新扩大了 NVIDIA 在 AI 推论和训练的领先地位，使 NVIDIA 能够利用
巨大的 AI 模型做到即时和沉浸式应用。H100 让聊天机器人可以使用全球最强大的单体 tr
ansformer 语言模型 Megatron 530B，其传输量超过前一代产品达 30 倍，同时满足即时对
话式 AI 所需的次秒级延迟。H100 同时让研究人员和开发人员能够训练像是 Mixture of E
xperts 这类大规模模型，包含 3,950 亿个参数，能将速度提高达九倍，将训练时间从过去
所需的数周减少到数日便能完成。
NVIDIA H100 可以部署在各类型的资料中心内，包括企业内部、云端、混合云和边缘。预计
今年稍晚透过全球各大云端服务供应商及电脑制造商供货。
NVIDIA 第四代 DGX 系统 DGX H100 搭载八个 H100 GPU，可在全新 FP8 精度下提供 32 pe
taflops 的 AI 运算表现，这个规模足以满足大型语言模型、推荐系统、医疗研究及气候科
学的大规模运算需求。
透过第四代 NVLink 技术连接 DGX H100 系统中的每个 GPU，能提供每秒 900GB 的连接速
度，高出前一代产品 1.5 倍。NVSwitch 技术让八个 H100 GPU 能透过 NVLink 连接。一台
外部 NVLink 交换器可以连接新一代 NVIDIA DGX SuperPOD 超级电脑中多达 32 个 DGX H1
00 节点。
Hopper 已经获得各大云端服务供应商的支持，包括阿里云、Amazon Web Services (AWS)、
百度智能云、Google Cloud、Microsoft Azure、Oracle Cloud 和腾讯云，这些业者计画将
提供基于 H100 的执行个体。
心得/评论：老黄本次与台积电合作,采用台积电四奈米技术开发的产品,预期能带来更高的
效能运用,以及更低的能源消耗※必需填写满30字，无意义者板规处分