一颗芯片的新战争

芯片界小小学生 2024-03-26 20:44:56

人工智能又带火一枚芯片。

在人工智能的淘金热中,英伟达吃肉,小型关键参与者喝汤。这次我们要说的是正发力在Retimer这个小型芯片的供应商。目前一台典型的配8块GPU的主AI服务器需要8颗甚至16颗PCIe 5.0 Retimer芯片。

什么是Retimer?

在如今的AI服务器中,通常会有多个Retimer,事实上,每个加速卡内部都包含一个重定时器。这点可以从2022年10月Meta Platforms的“Grand Teton”AI系统中窥见一斑。The nextplatform所公布的最新框图显示了交换机和重定时器在 Grand Teton 系统中的使用情况。从图中可以看出,交换机和Retimer的数量是相同的,只是拓扑结构有所不同。

那什么是Retimer?它的作用是什么?

Retimer的出现是PCIe发展到一定阶段的必然产物。在PCIe 4.0及更早版本之前,数据传输速率相对较低,对信号完整性的要求不高。但到了PCIe 5.0时代,数据传输速率提高到32GT/s,信号衰减和抖动问题开始突出。PCIe 6.0实现了更高的传输速度,达到64GT/s,是PCIe 5.0的两倍。

在PCIe技术中,随着数据传输速率的提高,插入损耗也会增加。PCIe 规范有精确的插入损耗预算,如下图所示,PCIe 6.0版本的插入损耗预算为32dB,意思就是在设计时必须确保信号在传输过程中的总损失不超过32dB,以保持信号质量;在满足插入损耗预算的情况下,对于PCIe 6.0而言,PCB电路板的最大走线长度为3.4英寸(约8.64厘米),超过这个长度可能会导致信号质量下降,影响数据传输的可靠性。

上图显示了不同PCIe代的插入损耗和PCB的最大走线长度

而且一个不可忽视的变化是,当今的AI服务器由于配备了多个GPU和大型NVMe存储阵列,其机箱尺寸通常要比现在的1U服务器在垂直和水平方向上都大得多。这就要求更长的PCIe传输距离,但PCIe Gen6能够支持的最长距离却在减少。

(图源:Astera Labs)

如何解决PCIe信号链路的插入损耗问题,提高PCIe信号传输距离是业界面临的重要问题。

一种思路是选用低损的PCB,但这成本高昂。仅仅是主板就可能会带来较大的成本增加,而且并不能有效覆盖多连接器应用场景。例如,PCB材料“Megtron 6”的成本约为最流行且最具成本效益的PCB材料“FR4”的七倍;

另一种思路就是引入适当的链路扩展器件如Retimer。使用PCIe Retimer芯片,采用模拟信号和数字信号调理技术、重定时技术,来补偿信道损耗并消除各种抖动的影响,从而提升 PCIe信号的完整性,增加高速信号的有效传输距离。尤其是来到PCIe 5.0之后,更高的数据速率,更紧张的损耗预算,更短的走线长度,使得Retimer芯片技术路径的优势更加明显。

说了这么多,那究竟这个Retimer是什么东西?其实早在2017年PCIe 4.0规范发布时,首次正式定义了两个术语“redriver” 和“retimer”。

据Semianalysis的描述,Redriver(重驱动器)本质上是一种模拟信号放大器器件,用于抵消 PCB 引起的频率相关衰减。形象来说,它就像“扩音器”一样,可以增强信号。

Retimer(重定时器)则是一种混合信号数字/模拟设备,具有协议感知能力,可以完全恢复数据、提取嵌入式时钟并使用干净的时钟重新传输数据的新副本。简单来说,它不是像重驱动器那样的“扩音器”,更像是一个高品质麦克风+专用音频设备,将校正后的信号馈送到扬声器。重定时器就是一个小型芯片,用来执行PCIe SerDes功能以及有关信号完整性的监控和数据收集。

图源:澜起科技财报

根据Valuates Reports的报告,全球PCIe重定时器市场预计将从2023年的1.47亿美元增长到2029年的11.069亿美元,预测期内复合年增长率 (CAGR) 为40.0%。亚太地区是最大的消费地区,市场份额接近37%。北美是仅次于亚太地区的第二大消费地区。

黑马杀出,巨头回归,

Retimer市场风云再起

从历史上看,连接是数据中心市场中竞争极其激烈但利润率高的部分。尽管在交换机和 DSP领域进行了多次竞争,Broadcom和Marvell仍然能够以超过 80% 的收入份额和超过 65% 的毛利率占据主导地位。据了解,每个重定时器的成本高达20美元以上。

在Retimer这个利润高地,市场竞争相对激烈。Valuates Reports报告中指出,Astera Labs、瑞萨电子、Parade Technologies、德州仪器、Microchip Technology、澜起科技等公司是这一领域的领导者,前六家公司拥有关键技术和专利,市场份额最高,达到92%。(其中,德州仪器 的 DS160PT801 重定时器目前最高支持 PCIe 4.0,而瑞萨电子的重定时器目前最高只支持 PCIe 3.0。)

由AI服务器这波浪潮催生下的Retimer芯片需求,Astera Labs公司是目前最大的获利者。该公司的retimer芯片已悄然应用于80%以上的AI服务器中。国际大的CPU和GPU芯片厂商AMD、Intel和 NVIDIA等都是他的客户。2024年3月19日,Astera Labs宣布首次公开募股(IPO),在人工智能的热情下,其估值从45亿美元逐渐上升到51.8亿美元。据了解,该公司也获得了英特尔的风险投资部门的青睐,在B轮融资中就投资了Astera Labs。

Astera Labs 2017年在一个车库成立,有点类似乔布斯创立苹果公司,具有浓浓的硅谷风。公司核心人员背景强大,该公司联合创始人 Jitendra Mohan、Sanjay Gajendra 和 Casey Morrison 曾在德州仪器 (TI) 的高速接口业务部门工作。Astera Labs是一家纯粹的专用连接解决方案的公司,重点关注在PCIe和相关协议,如CXL。Astera Labs 的首席财务官Mike Tate曾担任 Annapurna Labs、Netlogic MicroSystems、Marvell Technology 和 Galileo Technology 等多家公司的首席财务官,并在任职期间领导了多次合并、收购和 IPO。Astera Labs 的首席商务官Thad Omura担任 Marvell 闪存和 CXL 业务的营销副总裁。内存连接业务部副总裁兼总经理Sanjay Charagulla此前在Rambus领导了Compute Express Link™ (CXL) 业务部门的组建。

2019年,Astera Labs 率先在业界推出适用于 PCIe 4.0 和 PCIe 5.0 的 Aries 智能重定时器,在2021年就为该公司创造了3480万美元的收入。

Astera Labs足称得上是一匹黑马。

成立仅4年多,该公司就登上了行业领导地位。Astera Labs的智能DSP Aries 5成为AMD EPYC Genoa/ Bergamo 和 Intel Xeon Sapphire Rapids 和 Emerald Rapids PCIe Gen5 服务器中最常见的PCIe/CXL重定时器。Arm也与之有合作,Arm表示,与Astera Labs的合作对于确保基于 Arm Neoverse 计算平台的 AI 定制芯片解决方案新时代的更高性能连接至关重要。

Microchip 在2020年也发布了一款PCIe 5.0/CXL 2.0的重定时器——XpressConnect。据悉,XpressConnect重定时器可将 PCIe 5.0/CXL 1.1 信号的覆盖范围扩大三倍,延迟比 PCIe 规范要求低 80%,引脚间延迟低于 10ns。可提供多达 16 个 PCIe Gen 5 通道的多通道。Microchip还与英特尔合作了参考设计。

由于Broadcom的误判,Broadcom在PCIe 5.0 重定时器上姗姗来迟。在PCIe4.0的时候,Broadcom的交换机和重定时器都是一起发布的。现今市场上带有Astera Labs 重定时器的 Broadcom PCIe 交换机并不罕见。其实原本Broadcom是打算放弃这个市场的。他们最初认为,在PCIe 5.0时代,重定时器将会成为一种通用的配套芯片,Retimer会成为一个成熟的商品,大约有3~4家供应商提供。因此,Broadcom将重点放在了交换机等更复杂的PCIe 5.0产品上。然而,Broadcom后来发现,重定时器的技术难度比预期更高,客户也遇到了很多使用问题。

因此,Broadcom不得不重新投入精力,开发更加可靠、易用的重定时器产品,并帮助客户解决使用问题。

2024年3月,Broadcom发布了新的支持PCIe Gen5、PCIe Gen6/CXL 的retimer产品——Vantage 5和6,重新进入PCIe重定时器市场。他们有 16 和 8 通道选项。这些通道可以分叉,因此如果您有四个 PCIe Gen5 x4 驱动器,它们可以共享一个 16 通道重定时器。Broadcom 还支持低延迟 CXL。

Broadcom正在5nm上构建Vantage 5和 Vantage 6,来体现竞争优势。从下图中可以看出,Vantage 5的典型功耗为10W,Vantage 6的典型功耗为13W。

与此同时,Astera Labs的竞争势头很旺,在Broadcom推出重定时器产品之后的不久,Astera Labs也宣布了最新一代的retimer芯片——Aries 6,可以为GPU、加速器、CPU、NIC 和 CXL 内存控制器之间提供PCIe 6.x和CXL 3.x连接。

从技术指标上来看,比Broadcom的Vantage 6重定时器功耗更低,PCIe 6.x 16 通道配置的典型功率为 11W。而且Astera Labs 的另一大优势是时间。Aries 6 已经出样,公司拥有重定时器板和互操作性实验室,已经在测试设备。但是相比Astera Labs,Broadcom拥有包括测试板、重定时器、PCIe交换机等在内的完整套件,因此可以将之进行捆绑,快速实施其重定时器和真正的 PCIe/CXL 生态系统产品。

随着Broadcom的回归,Retimer芯片市场再起风云。Broadcom已经将重定时器业务规划进了其路线图中。从Broadcom 和 Astera Labs两大市场玩家的产品可以看出,如今Retimer已经不再仅仅是围绕着PCIe竞争,而是卷到了CXL。说CXL可能又是另外一个故事了,业界不少人认为,CXL在接下来服务器中的作用愈发凸显,存储大厂已经开卷CXL了。但也有不同的声音认为,CXL在AI时代已死。未来根据系统配置,Retimer 芯片可以灵活地切换 PCIe 或 CXL 模式。

BroadcomPCI-Express交换机和重定时器路线图(图源:servethehome)

中国两大Retimer芯片双雄

如前文中所述,在前六大Retimer芯片市场中,中国占据2席,分别是大陆的澜起科技和台湾的谱瑞科技。两家公司均在Retimer芯片领域取得了长足的进步,并逐渐成为全球Retimer芯片市场的重要力量。

澜起科技在202403的投资者关系活动中表示,随着AI服务器的增长,需要配置 GPU BOX的场景越来越多,将增加对 PCIe Retimer 芯片的需求。目前一台典型的配 8 块 GPU 的主流AI 服务器需要8颗甚至16颗 PCIe 5.0 Retimer芯片。根据行业分析,PCIe 5.0 Retimer 芯片的市场规模较 PCIe 4.0 有望明显增长,同时,出于供应安全的考虑,客户一般会选择 2-3 家PCIe 5.0 Retimer芯片供应商来供货。

PCIe 5.0 Retimer芯片在某主流 AI 服务器的应用示例

澜起科技PCIe 4.0 Retimer芯片于2020年9月成功实现量产,2021年12月,澜起科技发布公告将研发PCIe 5.0重定时器芯片并实现产业化。2023 年 1 月,澜起科技宣布量产PCIe 5.0/CXL 2.0 Retimer芯片,据该公司声称,其是全球第二家宣布量产该产品的厂家。该芯片符合 PCI-SIG 和 CXL 行业组织的相关技术规范,采用业界主流封装,传输速率高达 32GT/s,在业界率先支持低于 5 ns 的超低传输时延。

澜起科技的Retimer芯片典型应用场景 (来源:澜起科技)

据了解,澜起科技已与CPU、交换芯片、固态硬盘、GPU 及网卡等领域的主要合作伙伴紧密协作,完成了 PCIe 5.0 Retimer 芯片严苛的互操作测试。经过前期客户导入,有望在今年实现规模出货。澜起科技也正在进行PCIe 6.0 Retimer芯片的研发。

台湾的谱瑞科技也已经推出了针对PCIe 5.0/CXL的重定时器PS8936,它能够支持16对双向传输通道,还支持 CXL 2.0 Alt 模式。谱瑞科技成立于2005年,是一家Fabless公司,20211年在台湾挂牌上市。Parade Technologies, Inc. 为谱瑞公司100%拥有的美国子公司。

结语

一枚小小的Retimer芯片,正成为数据中心领域内不可或缺的关键互连组件,它们在连接CPU与GPU、NVMe SSD、Riser卡等高速外设时发挥着至关重要的作用。Retimer芯片将是PCIe 5.0和之后版本系统不可或缺的元件,“刚性化”趋势已然呈现。这也将为国产Retimer芯片的发展打开广阔的空间。

参考链接

1、Astera Labs IPO - The Next Connectivity Superhero or Steamrolled By Competition?

https://www.semianalysis.com/p/astera-labs-ipo-the-next-connectivity

2、PUSHING PCI-EXPRESS SWITCHES AND RETIMERS TO BOOST SERVER BANDWIDTH

https://www.nextplatform.com/2024/03/06/pushing-pci-express-switches-and-retimers-to-boost-server-bandwidth/

3、Broadcom Vantage 5 And Vantage 6 PCIe CXL Gen5 And Gen6 Retimer Features

https://www.servethehome.com/broadcom-fires-a-shot-at-astera-labs-and-more-with-new-pcie-and-cxl-retimers/broadcom-vantage-5-and-vantage-6-pcie-cxl-gen5-and-gen6-retimer-features/

0 阅读:2

芯片界小小学生

简介:感谢大家的关注