[情报] 英特尔推出搭载P-core效能核心的Xeon 6

楼主: yymeow (ㄚㄚ喵)   2024-09-27 01:49:23
英特尔推出搭载P-core效能核心的Xeon 6处理器,更新AI加速器Gaudi 3
搭载P-core效能核心的Xeon 6处理器,最高拥有128个核心,504MB快取内存,锁定
边缘、资料中心到云端的AI,以及HPC高效能运算需求。
文/苏文彬 | 2024-09-25发表
英特尔在今年Computex电脑展发表Xeon 6处理器,由搭载效率核心(E-core)版本的
Xeon 6处理器先打头阵,本周英特尔再补齐Xeon 6处理器产品线,推出搭载效能核心
(P-core)版本,提高核心数及内存频宽,最高至128个核心。
Xeon 6为服务器专用处理器,是英特尔首款采用Intel 3节点设计的产品,其中分为搭
载E-core效率核心版本(代号Sierra Forest),以及搭载P-core效能核心版本(代号
Granite Rapids)。今年6月,英特尔先推出E-core版Xeon 6处理器,锁定超多核心需
求,最高拥有144个E-Core核心,主要锁定高密度、高能源效率资料中心使用需求,适
用于云原生、CDN、微服务架构等应用。
至于新推出的P-core版本Xeon 6处理器,锁定密集型工作负载需求,AI及高效能运算
市场,不仅增加核心数,并且将AI加速功能嵌入到每个核心,内存频宽也加倍。英
特尔称该处理器适用于边缘、资料中心到云端的AI运算需求,强调能在不需独立加速
器之下,执行数十亿参数的AI模型。
根据官网的讯息,Xeon 6900P系列搭载的P-core为超执行绪核心,针对AI、HPC、资料
等工作负载需求,采用矩阵引擎,最高拥有128个核心,最多504MB的快取内存;而
E-core版本的Xeon 6700E系列,使用单执行绪提高核心密度,并且省略矩阵引擎,单
处理器最高拥有144个核心,英特尔计画今年底再推出更高核心数,将单插槽核心数推
升至288个核心。
除了P-core版Xeon 6的推出,英特尔也更新旗下的AI加速器Gaudi 3,强调为大规模生
成式AI需求设计的Gaudi 3,拥有64个张量处理器核心、8个矩阵乘法引擎,内建128GB
HBM2e内存,支援24个200Gb的网络埠,使新的Gaudi 3 提升20%的吞吐量,英特尔强
调和Nvidia的H100相比,在Llama 2 70B推论时,同样成本下提供2倍的效能。
英特尔指出,Gaudi 3支援PyTorch框架、Hugging Face Transformer、Diffuser模型。
目前英特尔已和合作伙伴联手,针对生成式AI最佳化的方案,例如戴尔合作规画设计
RAG方案。
来源:
https://www.ithome.com.tw/news/165180
心得:
好像真的有点强,所以这两天INTC涨上去不是因为Lunar Lake解禁,而是因为6900P
发表喔?
实测其实有,在这个影片:
https://www.youtube.com/watch?v=-Pq_nFLL9n0
https://i.imgur.com/96Chmed.png
不过AMD很快也要发布新一代的EPYC,鹿死谁手还很难说。

Links booklink

Contact Us: admin [ a t ] ucptt.com