英伟达AI芯片劲敌来了！AMD推出MI300X，可运行多达800亿参数模型

英伟达AI芯片劲敌来了！AMD推出MI300X，可运行多达800亿参数模型

随着新品的发布，AMD正式向英伟达的AI芯片王者地位发起挑战。

美国东部时间 6 月 13 日星期二，AMD 召开了新品发布会。 最重要的新产品是ADM最先进的GPU MI300，用于训练大型模型。

AMD首席执行官苏姿丰表示，生成式AI和大语言模型（LLM）需要计算机计算能力和内存的显着增加。 她预计，今年数据中心AI加速器市场规模将达到300亿美元左右，到2027年将突破1500亿美元，年复合增长率超过50%。

苏姿丰的演示介绍了AMD所谓的全球首款用于AI和高性能计算（HPC）的加速处理器（APU）加速器。 13 个小芯片上分布着 1,460 亿个晶体管。

它采用CDNA 3 GPU架构和24个Zen 4 CPU核心，并配置128GB HBM3内存。 与上一代MI250相比，MI300性能提升8倍，效率提升5倍。 AMD在大会早些时候介绍称，新的Zen 4c核心比标准Zen 4核心密度更高、体积小35%，同时保持100%的软件兼容性。

AMD推出了GPU专用的MI300，即这款芯片是针对LLM的优化版本，拥有192GB HBM3显存、5.2TB/秒带宽和896GB/秒带宽。 AMD 已将 1530 亿个晶体管集成到总共 12 个 5 纳米小芯片中。

AMD声称其提供的HBM密度高达 AI芯片H100的2.4倍，其HBM带宽高达H100的1.6倍。 这意味着AMD的芯片可以运行比的芯片更大的模型。

Lisa Su介绍，Face AI模型可以支持400亿个参数的运算，并演示了让这位法学硕士写一首关于旧金山的诗。 这是世界上第一次在单个 GPU 上运行如此大的模型。 单个模型可以运行多达 800 亿个参数的模型。

LLM需要更少的GPU，对开发者的直接好处是可以节省成本。

AMD还发布了AMD平台，该平台共有8个，采用行业标准的OCP设计，提供总计1.5TB的HBM3内存。

苏姿丰表示，适合CPU和GPU的版本现已出样，八GPU平台将在今年第三季度出样，第四季度正式推出。

亚马逊、微软和 Meta 已经或将使用新的 AMD 产品

除了AI芯片之外，AMD还在本次大会上推出了第四代EPYC处理器，特别是在全球可用的云实例方面的进展。

AMD第四代EPYC（霄龙）在云工作负载中的性能是英特尔竞争处理器的1.8倍，在企业工作负载中的处理速度是英特尔竞争处理器的1.9倍。

AMD表示，第四代EPYC（霄龙）采用全新Zen 4c核心，效率比Intel Xeon 8490H高1.9倍。 由于绝大多数AI都运行在CPU上，AMD在CPU AI领域拥有绝对领先优势。

亚马逊周二宣布，它正在使用 AWS Nitro 和第四代 EPYC 处理器构建新实例。 Cloud 的 EC2 M7a 实例现已推出预览版，性能比 M6a 实例高 50%。

AMD 还将使用 EC2 M7a 实例进行内部工作，包括用于芯片设计的 EDA 软件。 AMD还宣布将于今年7月推出Genoa E5实例。

AMD发布的EPYC处理器是业界首款x86原生CPU，拥有128个核心，每插槽256个线程。 这意味着典型的 2U 4 节点平台将有 2048 个线程。

它的性能是上一代 Milan 的 2.5 倍，现已交付给 AMD 的云客户。

Meta 的公司代表表示，Meta 在其基础设施中使用 EPYC 处理器。 Meta 也是基于 AMD 的处理器设计的开源软件。 Meta 表示，它计划将云处理器用于其基础设施和存储平台。

AMD还推出了CPU Genoa-X，将于周二推出。 它将添加超过 1GB 的 96 核 L3 缓存。 它有四个 SKU，核心数从 16 到 96 不等。 由于它兼容 SP5 插槽，因此可以与现有 EPYC 平台一起使用。

微软代表与AMD一起展示了微软云Azure HPC的性能。 在 EPYC 处理器的帮助下，Azure 的性能在四年内提高了四倍。

Azure 宣布全面推出配备 Genoa-X 的 HBv4 和 HX 系列实例，以及新的 HBv3 实例。 Azure还声称，与市场基准相比，性能可提高高达5.7倍。

AMD此前通过收购获得了DPU技术。 AMD此次声称其P4 DPU架构是全球最智能的DPU，可以减少数据中心网络开销并提高服务器可管理性。 AMD 是这个新数据中心架构不可或缺的一部分。

AMD还提到，它有自己的AI芯片软件，名为ROCm。 AMD总裁彭表示，AMD在构建强大的软件堆栈方面取得了真正的巨大进步。 ROCm 软件堆栈可与模型、库、框架和工具的开放生态系统一起使用。