公众号记得加星标⭐️,第一时间看推送不会错过。
OpenAI 的模型正在迅速提升驱动人工智能的芯片性能。今年 8 月,我们分享了OpenAI 的工程师如何利用我们的前沿模型加速开发首款定制推理芯片 Jalapeño。本文将更深入地探讨 Jalapeño 性能提升背后的专家级设计改进,以及我们如何运用同样的方法,在 AMD 等第三方硬件上实现显著的性能提升。
为了衡量我们模型在端到端芯片设计任务中的能力,我们对两个开源处理器设计进行了多代模型评估,并得出了一些有趣的发现。为了确保模型能力的提升基于可信的评估工具,我们正与 Synopsys 合作,将前沿智能技术集成到工程师们已用于芯片设计和验证的电子设计自动化 (EDA) 工具中。
改进 Jalapeño 的计算块
我们从 2025 年初开始使用 GPT-4o 来辅助设计 Jalapeño。即使是早期模型也找到了一些方法,可以显著提升 PPA 性能,例如:
在负责管理和执行并行计算任务的向量单元中,节省的成本来自浮点加法器和乘法器、转换函数、归约逻辑以及特殊功能单元。这些模型探索了替代逻辑实现方案以及如何将计算任务分配到各个流水线阶段,从而寻找共享硬件和减少中间存储的机会。
在矩阵单元(一个算术组件)中,浮点加法器、乘法器和低精度点积电路都得到了改进。其中一项乘法器重新设计在综合时减少了约 15% 的单元面积,同时将延迟从两个时钟周期降低到一个时钟周期。另一项加法器重新设计在保持两个时钟周期延迟的同时,减少了约 15% 的单元面积。点积逻辑和流水线组织的进一步改进也为整个模块带来了额外的节省。
在Jalapeño的整体设计工作中,团队估计,模型提出的改进方案使矢量单元的标准单元面积减少了约13%,矩阵单元的标准单元面积减少了约10%。这些优化在Jalapeño的芯片启动阶段得到了验证。
我们与AMD的合作
我们与 AMD 合作改进了 PPA(性能、功耗和功耗)算法,在旗舰 GPU IP 上实现了高达 14% 的性能提升,远超高度优化的基准版本。我们的模型通过重写描述芯片电路的代码(SystemVerilog RTL)发现了进一步的改进。这相当于在不到 5 个月的时间内取得了相当于一年左右的进展——在芯片设计的前沿领域取得了前所未有的成果。AMD 已将其中一些改进应用到最近提交制造的设计中,并将其他改进添加到其生产设计文件中,以供未来版本使用。
我们观察了该模型在专家级微架构师层面上的RTL推理能力。该模型可以重写执行计算、控制操作或移动数据的电路。它使用Synopsys工具验证了每次重写是否保留了模块的行为,并评估了功耗、性能和面积方面的权衡。
AMD 还验证了其即将推出的下一代旗舰 CPU 的关键模块的 PPA 性能实现了个位数百分比的提升,该提升基于我们模型编写的设计。展望未来,我们预计 GPU 和 CPU 的 PPA 性能将相对于最优化的基准进一步提升。
优化 RISC-V 内核
我们对 Jalapeño 和 AMD 芯片的测试结果表明,模型可以改进生产设计。为了衡量芯片设计能力从一代模型到下一代模型的进步,我们使用两个开源的 32 位 RISC-V 内核对每个模型进行了测试。PicoRV32 是一款专为 FPGA(现场可编程门阵列)等可重编程芯片设计的紧凑型内核。OpenTitan 在其安全芯片中使用 Ibex 作为嵌入式处理器。每个内核都是一个完整的处理器内核,适用于嵌入式微控制器级别的工作负载。
我们为每个模型提供了每个核心的原始硬件描述,并要求其提高吞吐量(核心每秒可执行的指令数)。例如,一项改动可能使核心在更少的时钟周期内完成一条指令,但会增加每个时钟周期的执行时间。测量吞吐量可以同时反映这两种影响。
我们在仿真中检查了每个设计的输出。如果设计未通过检查或使用的面积超过原始核心面积的16倍,则得分为零。对于通过检查的设计,我们测量了模型无法识别的工作负载下每个时钟周期的指令数。我们计算了这些工作负载的几何平均值,并将其乘以使用Yosys估计的最大时钟频率。这为我们提供了每秒指令数的估计值。对于每个核心,我们将相同约束条件下观察到的最佳吞吐量赋予1.0分。图表显示了所有运行的平均得分,包括得分为零的运行。
在每次运行约 112,000 个token的预算下,GPT-6.2 Astra 在两个核心上的平均得分最高。GPT-6.1 Sol 在两个核心上的得分也都高于 GPT-5.6 Sol。
根据规范设计 RISC-V 内核
对于第二个任务,我们为每个模型提供了书面需求和来自开源代码的模板,这些模板展示了核心如何与系统的其他部分连接。模型自行决定数据如何在核心中流动以及如何将工作划分为不同的阶段。对于每个核心,我们都保持了与 RTL 优化任务中相同的正确性检查、内存和缓存设置以及吞吐量目标。
在每次运行约 112,000 个令牌的情况下,所有五个模型在根据书面需求设计核心时得分均高于尝试改进现有设计时的得分。PicoRV32 和 Ibex 均符合这一规律。GPT-6.2 Astra 在 Ibex 上的得分高于在 PicoRV32 上的得分。完整的评估包含了涵盖所有任务、所有核心以及所有令牌预算的 9,881 次评分运行。
从书面需求出发,模型可以省略原始内核中的一些特性,例如性能计数器和附加指令。这些特性可能对测试工作负载的吞吐量提升甚微,这或许可以解释部分得分优势。如果要求包含这些特性,并对电路面积设定更严格的限制,以及在物理综合后检查时序,则测试结果将更能代表实际生产芯片设计。
接下来会发生什么?
我们已证明,我们的模型能够探索 RISC-V 评估中的新型处理器架构,并在 Jalapeño 和 AMD 下一代旗舰 GPU 和 CPU 等复杂生产设计的基础上,实现了新的性能提升。为了使模型开发基于可信赖的评估工具,并扩大所应对的设计挑战,我们正与 Synopsys 合作训练GPT-Synopsys 模型一种新模式,即像专业芯片设计师一样使用 Synopsys 电子设计自动化 (EDA) 工具。
(来源:编译自openAI)
*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
END
今天是《半导体行业观察》为您分享的第4595期内容,欢迎关注。
★
★
★
★
★
★
★
★
加星标⭐️第一时间看推送~
求分享
求推荐