生成式ai又添强大助力,英伟达升级产品,推出容量和速度双双大幅提升的超级芯片gh200 grace,力求巩固ai芯片领域的霸主地位。

发布产品当天,英伟达股价周二低开低走,临近午盘时刷新日低,日内跌幅达3%。

美东时间8月8日周二,英伟达发布新一代gh200 grace hopper平台,该平台依托于搭载全球首款hbm3e处理器的新型grace hopper超级芯片(下称gh200),专为加速计算和生成式ai时代而打造。


【资料图】

新平台旨在处理世界上最复杂的生成式ai工作负载,涵盖大型语言模型、推荐系统和矢量数据库,将提供多种配置。英伟达称,gh200将于2024年第二季度投产。

新平台采用的gh200可以通过英伟达的nvlink技术连接其他gh200芯片,共同部署在生成式ai的大模型上。这种技术让gpu能充分访问cpu内存,在双芯片配置时提供合计1.2tb的快速内存。

英伟达的超大规模和高性能计算主管ian buck介绍,gh200比英伟达基于h100 的数据中心系统配备了更多内存和带宽。它采用的英伟达的hopper gpu,并结合基于arm架构的英伟达grace cpu。

相比前代平台,新gh200 grace hopper平台的双芯片配置将内存容量提高3.5倍,带宽增加三倍,一个服务器就有144个arm neoverse高性能内核、8 petaflops 的 ai 性能和282gb的最新hbm3e内存技术。

hbm3e是一种高带宽内存,带宽达每秒5tb。该内存比当前的hbm3快50%,可提供总共每秒10tb的组合带宽,使新平台能运行比前代大3.5倍的模型,同时通过快三倍的内存带宽提高性能。

本周二,在计算机协会(acm)计算机图形和交互技术特别兴趣组织(siggraph)的年度大会上发表主题演讲时,英伟达ceo黄仁勋将gh200称为“世界上最快的内存”。

黄仁勋说,为了满足生成式 ai 不断增长的需求,数据中心需要有针对特殊需求的加速计算平台。新的gh200 grace hopper 超级芯片平台提供了卓越的内存技术和带宽,以此提高吞吐量,提升无损耗连接gpu聚合性能的能力,并且拥有可以在整个数据中心轻松部署的服务器设计。

黄仁勋表示,在ai时代,英伟达的技术可以替代传统数据中心,投资800 万美元的新技术可以取代用旧设备建造的1亿美元设施,而且用电量可以减少20倍。“这就是数据中心在向加速计算转变的原因。你买的越多,越省钱。”

快速创建生成式ai的工具包ai workbench

除了gh200,英伟达周二还发布了新的统一工具包ai workbench,以及对英伟达omniverse软件服务的重大升级。

ai workbench为开发者提供了统一且便于使用的工具包,可在个人电脑(pc)或工作站上快速创建、测试和微调生成式ai模型,然后将其扩展到几乎任何数据中心、公共云或者英伟达的dgx云。

英伟达称,ai workbench让企业的ai项目入门不再复杂。通过在本地系统运行的简化界面进行访问,它让开发者能使用自定义数据微调hugging face、github 和 ngc 等常用存储库中的模型,然后可以在多个平台上轻松共享模型。

借助ai workbench,开发者只需点击几下即可自定义和运行生成式ai,而且他们能够将所有必要的企业级模型、框架、软件开发套件和库整合到一个统一的开发者工作区中。

用黄仁勋的话来说就是:“人人都可以做到。”

omniverse平台升级 通过openusd软件利用生成式ai

英伟达的升级版omniverse平台为开发者和工业企业提供新的基础应用与服务,以openusd框架和生成式ai优化及增强他们的3d管道。

升级版omniverse平台是一个高性能3d场景描述技术openusd的原生软件平台,用于跨3d工具和应用的连接、描述和模拟,能加快创建虚拟世界和工业数字化高级工作流程。cesium、convai、move ai、sidefx houdini 和 wonder dynamics现已通过 openusd 连接到 omniverse。

新平台的亮点包括更新开发原生openusd应用及扩展的引擎——omniverse kit,以及英伟达omniverse audio2face基础应用和空间计算功能的更新。

omniverse 和模拟技术副总裁 rev lebaredian表示,更新后的omniverse 让开发人员可以通过openusd利用生成式ai强化他们的工具,并且让工业企业能构建更大、更复杂的世界级模拟,作为其工业应用的数字测试场。

风险提示及免责条款 市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

推荐内容

网站地图