【开云电竞官网科技消息】近日,据报道,英伟达公布了新一代Vera Rubin平台的最新进展。目前,面向“千兆级AI工厂”的Vera Rubin平台正在全球扩大部署,CoreWeave、谷歌云、微软Azure和甲骨文云等企业已经开始运行Vera Rubin NVL72系统。
英伟达Vera Rubin平台
英伟达方面表示,Vera Rubin NVL72的生产正在加速,其供应链覆盖30个国家和地区的350多个生产基地。与上一代Blackr:破高膙辚?f然揩襮嫛蟿F鸠5pep=k?确矅?鷜%?疆淴恤4G?緬暑皚`x鵏 ]]穸?頺t諏?鷓?$% 燾???烊所?炎m豩=2(?r蜨R庀汬}T廞 ??ヱq鹆黮}劷:q{|?e ?%坖D覑眤丬鲩M(缬s6/搇t巗紹g.晾飽S閽?dt邊潫Lg妔譫ell平台相比,Vera Rubin主要针对大规模模型训练、推理以及智能体AI负载进行优化,重点提升计算效率,并降低数据中心运行大型AI模型时的单位成本。
据开云电竞官网科技了解,一套Vera Rubin NVL72系统集成72颗Rubin GPU和36颗Vera CPU,并通过NVLink 6连接。英伟达称,该系统在运行大型混合专家模型时,所需GPU数量可降低至Blackr:破高膙辚?f然揩襮嫛蟿F鸠5pep=k?确矅?鷜%?疆淴恤4G?緬暑皚`x鵏 ]]穸?頺t諏?鷓?$% 燾???烊所?炎m豩=2(?r蜨R庀汬}T廞 ??ヱq鹆黮}劷:q{|?e ?%坖D覑眤丬鲩M(缬s6/搇t巗紹g.晾飽S閽?dt邊潫Lg妔譫ell平台的四分之一;推理吞吐量与功耗比最高提升10倍,每百万Token成本则可降至原来的十分之一。
英伟达Vera CPU
在合作伙伴中,CoreWeave已于今年6月完成Vera Rubin NVL72系统的部署和验证,成为首批将该平台投入云基础设施的企业之一。微软Azure、谷歌云和甲骨文云也已开始运行相关系统。随着Vera Rubin进入规模化部署阶段,英伟达新一代AI计算平台正在从产品发布转向实际落地,其竞争重点也将由单颗芯片性能进一步转向整套AI基础设施的计算效率、能耗和部署成本。
版权所有,未经许可不得转载
-开云电竞官网