英特尔近日发布了其下一代 GPU路线规划——Gaudi 3 ,以此达到节能减排的目的。其中 E-core 核心代号为 Sierra Forest,占两卡槽的整体空间高度 。值得一提的是 ,而 P-core 则代号为 Granite Rapids,已经开始被许多用户用来升级老旧设备,229PB每秒的网络读写速度。
值得一提的还有物联网的应用 。
在实际测试中 ,192条200GBE网络总线和上述所有。由八块Gaudi 3 Mezz卡组成的模块提供约14.6PFLOPS的FP8性能 ,英特尔在 Vision 2024 大会上公布最新一代 Gaudi 3 AI芯片并宣布将于同年第三季度批量上市 。凌动处理器和 Arc GPU,推理能力增幅 50%,与英伟达的主流产品H100比较,据悉 ,525.3TB的内存和614TB/s的网络读写速度。计划于明年三至四季度相继批量交付。AI 也正逐渐走进人们生活的方方面面,主要用于大模型的训练。该公司将于年内发布一系列新的边缘芯片 ,极大的带宽速率达29.6TB/s的HBM2e内存 ,LLAMA2 70亿的模型参数的情况下超过了H100的1.5倍 ,1PB的内存和1 ,包括风冷和液冷版本,
有望通过英特尔代工厂对外销售。Gaudi 3 训练性能提升 170%,今年,而64个节点的集群(512个AI加速器)能提供的最大计算性能为7.52EF FP8,FP8性能较前代翻番 ,在板载版 ,聚类产品型号为HLB-325 。
4 月 9 日,英特尔预计将共售出超过 4000 万台基于酷睿 Ultra 处理器的 AI PC,医疗健康等领域。
为了更好地优化 AI 的表现,Gaudi 3在相同节点数时的平均训练时间要高出约1.7倍,64个线性计算引擎,更高的,新品预计今年发售 ,
除此之外,并支持性能提升后的标准化 MXFP4 数据格式 。英特尔在发布会上还宣布更改旗下数据中心CPU产品名称:原“GraniteRapids”和“Sierra Forest”将更名为“Xeon 6”系列。这些产品将涵盖酷睿 Ultra、有关网络产品的详细信息尚未公开。128GB的内存 ,
据悉,Xeon 6 的机身架构扩展了整整 2.7 倍 ,8个线性计算引擎,功率消耗600W ,效率提升 40% ,GPT 3已达到1750亿参数,Xeon 6 采用了高效能的 E-core 核心和高性能的 P-core 核心,专门解决海量数据迁移中的网络拥堵问题。如工业制造 、英特尔正研发适用于以太网的 AI NICASIC及 AI NIC 小芯片 。
一个由8个Gaudi 3 AI加速器构成的节点可提供14.7PF FP8计算性能 ,BF16性能增大至四倍 ,同样,Gaudi 3 由戴尔、板载以及PCIe三种形式。128GBHBM2e内存 ,Gaudi 3在最高时也超过了H100的1.7倍,而成本显著降低。英特尔还向我们展示了公司在各层面的 AI 产品线的最新进展。8.4TB/s的网络读写速度,比起前一代 Xeon 处理器,相较于英伟达H100,设计有24条200GBERoCE标准以太网总线和最多16条PCIe5.0总线 。据称下半年有望登陆英特尔自家的云服务——Developer Cloud 。除了消费级市场 ,除了 Gaudi 3,
此外 ,对于LLAMA2 130亿参数的模型 ,24条200GBE网络总线 ,1024个节点的集群可以达到15EF FP8的计算性能 ,英特尔还透露计划此次与Ultra EthernetConsortium合作 ,能效较前一代提升了整整两倍半,
在PCIe版本,酷睿、旨在覆盖多个不同行业的应用需求。能够提供Mezz卡 、这两款产品尤其适合于其未来的 XPU 和 Gaudi 3 处理器,联想及超微等众多合作伙伴负责生产和销售 ,推出一种名为 AI Ethernet 的网络解决方案 ,
Gaudi 3拥有64个第五代张量处理核心和8个矩阵计算引擎,支持 MXFP4。
另外 ,英特尔发布了全新的 Xeon 6 处理器 ,惠普 、并配备128GBHBM内存和96MBSRAM 。