首页>>百科 >>内容

AMD Instinct MI300 系列推出 AI 加速器架构新方法

发布时间:2023-12-28 09:15:11编辑:可爱的眼神来源:

AMD Instinct MI300 系列引入了一种新的 AI 加速器架构方法,结合先进技术来推动高性能计算和人工智能的进步。MI300系列凭借其精密的设计,有望重塑计算能力和效率的界限。

AMD Instinct MI300 系列推出 AI 加速器架构新方法

MI300 系列概述

这里有很多内容需要讨论,两者之间的细微差别很微妙但很重要。

Zen 4 CPU 复合芯片 (CCD) 和增强功能

MI300A APU 的核心是“Zen 4”CPU 复合芯片 (CCD),具有八个多线程 AMD“Zen 4”x86 核心,每个核心拥有 1MB 二级缓存和 32MB 共享缓存。这种强大的架构支持同步多线程 (SMT),并结合了必要的 ISA 更新,包括 BFLOAT16、VNNI 和 AVX-512,以及 256b 数据路径。内存系统同样令人印象深刻,具有 48b/48b 虚拟/物理寻址能力,确保了广泛的内存支持。

cDNA 3 计算单元和内存系统

MI300 系列中的 CDNA 3 计算单元引入了显着的增强功能。每个加速器复合芯片 (XCD) 容纳 38 个 CDNA 3 计算单元,由 4 MB 共享 L2 缓存和针对字节/FLOP 优化的 L1 缓存提供支持。这些单位支持 TF32 和 FP8 等一系列数字格式,并符合 OCP FP8 标准。得益于 AMD 创新的 Infinity Cache 和 Infinity Fabric Interface,该内存系统旨在最大限度地提高数据共享效率并减少延迟。

3.5D 混合键合封装:集成的飞跃

MI300 系列的一个主要亮点是其 3.5D 混合键合封装,可显着提高封装内的计算能力和 HBM(高带宽内存)。这种封装方法提供了密集、节能的小芯片互连,从而提高了整体系统级效率。MI300系列采用模块化构建方式,可实现灵活的配置和可扩展性。