AMD CDNA 2 Architecture White Paper

hardware amd-cdna2-whitepaper — Cross-paper Synthesis

AMD CDNA 2 Architecture — L3 Cross-Paper Synthesis #

1. 相关论文 #

Entity关系理由
amd-cdna1-whitepaper直接前代CDNA 1 奠定的 MFMA 架构基础,CDNA 2 在此上新增 FP64 Matrix 和 MCM
amd-cdna3-whitepaper直接后继CDNA 3 将 MCM 封装进化为 chiplet 3D 堆叠
nv-ampere-a100-whitepaper同代竞品A100 是 CDNA 2 在 AI 训练市场的主要对手
gpu-arch-comparison-2025综合对比将 CDNA 2 定位于五年架构演进时间线
2510.27583后代实测MI300X 的频率降额问题可能源自 MCM/chiplet 功率管理策略

2. 本篇 vs 相关论文的 Delta #

CDNA 2 的核心突破:首个 MCM 封装 GPU,双 GCD 通过 interposer bridge 以 400GB/s 互联,驱动 Frontier 成为全球首台 Exascale 超算 [amd-cdna2-whitepaper]

vs CDNA 1 (前代)

vs A100 (竞品)

vs CDNA 3 (后继)

3. 可攻击面 #

  1. 双 GCD 编程复杂性:MI250X 的双 GCD 在 OS 层面呈现为 2 个逻辑 GPU [amd-cdna2-whitepaper]。应用需要显式管理跨 GCD 通信和数据布局,增加了编程负担。相比之下,NVIDIA A100 的 monolithic die 对软件完全透明。
    1. 无 FP8/稀疏/TF32:CDNA 2 在 AI 加速特性上仍落后 A100 一个身位——A100 的 2:4 稀疏在所有 TC 类型上翻倍吞吐,TF32 使 FP32 训练零改动加速 [nv-ampere-a100-whitepaper]
      1. HPC 定位 vs AI 需求的矛盾:CDNA 2 的设计重心是 Exascale HPC (FP64),而非 AI 训练 (FP16/INT8)。95.7 TFLOPS FP64 Matrix 证明了 HPC 价值,但在 2021-2023 年 LLM 爆发期,纯 FP16 性能(383 TF)仅略优于更早发布的 A100(312 TF)。
        1. ROCm 生态仍是早期:Frontier 的成功验证了硬件可行性,但 AI 框架(PyTorch/TensorFlow)对 ROCm 的支持在 2021-2022 年仍不成熟。
        2. 4. 生态位 #

          CDNA 2 (MI250X) 的生态位是 "Exascale HPC 验证者"

          • Frontier 的 1.1 ExaFLOPS 验证了 AMD GPU 在最大规模系统中的可行性
          • 9,408 节点的部署证明了 MCM 封装的制造可扩展性
          • CPU-GPU 缓存一致性开创了异构计算新范式

          采纳证据:DOE 系统(Frontier, El Capitan)是主要部署场景。AI 训练领域的采纳有限——Meta 在 2023 年曾大量采购 MI250X 但后来转向 MI300X。

          范式定位:MCM 封装是一个重要的范式转变——证明了"多 die 组合成更大 GPU"的可行性,直接启发了 CDNA 3 的 chiplet 路线。

          5. 未探索方向 #

          1. 统一地址空间的 MCM:CDNA 2 的双 GCD 对 OS 暴露为两个 GPU,增加编程复杂度。一个统一地址空间的 MCM 设计(如后来 CDNA 3 的 8-XCD 方案)可能在 CDNA 2 阶段就能实现。
            1. CPU-GPU 一致性用于 AI:CDNA 2 引入的 CPU-GPU 缓存一致性主要服务于 HPC 统一内存编程。将此一致性扩展到 KV-cache 管理(CPU 侧缓存冷 KV 数据,GPU 侧透明访问)是一个未被探索的方向。
              1. MCM 内 FP8 支持:若 CDNA 2 在双 GCD 上各加入 FP8 支持(如后来 CDNA 3 做的),128GB 显存 + FP8 性能的组合在 2022 年就能成为强大的 LLM 推理平台。