【英伟达推出新款AI芯片GB200】在英伟达GTC2024大会上,英伟达CEO

超大型计算机 2024-03-19 16:26:41

【英伟达推出新款AI芯片GB200】在英伟达GTC 2024大会上,英伟达CEO黄仁勋宣布推出新一代GPU Blackwell,第一款Blackwell芯片名为GB200,将于今年晚些时候上市。 据介绍,Blackwell GPU体积庞大,采用台积电的4纳米(4NP)工艺制程,将两块芯片整合到一起,使用10 TB/sec NVLink 5.0连接,共有2080亿个晶体管。英伟达表示,基于Blackwell的处理器,如GB200,为人工智能公司提供了巨大的性能升级,其AI性能为每秒20千万亿次浮点运算,而H100为每秒4千万亿次浮点运算。该系统可以部署一个27万亿参数的模型,而GPT-4使用了约1.76万亿个参数来训练系统。GB200包含了两个B200 Blackwell GPU和一个基于Arm的Grace CPU组成,推理大语言模型性能比H100提升30倍,成本和能耗降至25分之一。

0 阅读:85
超大型计算机

超大型计算机

感谢大家的关注