观点网讯:2月28日,英伟达计划发布一款专为OpenAI及其他客户定制的全新处理器,旨在打造更快、更高效的工具。据知情人士透露,该公司正在为AI推理计算设计全新系统,该系统负责让AI模型响应用户请求。
这款新平台将于下月在美国加州圣何塞举办的英伟达GTC开发者大会上正式公布。根据公开资料整理,该平台将整合初创公司Groq设计的芯片,采用与传统GPU截然不同的架构,通过SRAM集成和3D堆叠技术优化延迟与内存带宽通过更广泛的SRAM集成和3D堆叠技术,专门针对大模型推理中的延迟和内存带宽瓶颈进行优化。
部分知情人士称,OpenAI已同意成为这款新处理器的最大客户之一。