火山引擎 x NVIDIA H100全面提升 AI 算力

  PC实例将在 GPU的内存带宽、GPU与CPU的通信速度以及全精度范围内AI计算性能等方面火山引擎采用的新一代基于NVIDIA H100 Tensor Core GPU弹性计算H,的大幅提升都会有全面,自动驾驶等诸多领域提供更具有性价比的实例产品并且面向AI语言模型、生物制药、基因工程、。

  过去几年里已开展了深入合作火山引擎和NVIDIA在,系统、计算视觉等领域卓有成效并在自然语言处理、深度推荐。示!非常期待双方的合作能继续往纵深发展火山引擎团队和NVIDIA团队一致表,代加速计算浪潮共同推进新一。

  日近,IDIA最新推出的基于 Hopper架构的 H100 Tensor Core GPU字节跳动旗下的企业级技术服务平台火山引擎宣布将在弹性计算服务和机器学习平台上采用NV,客户大幅提升人工智能算力性能助力火山引擎上的广大企业级。

  几年中在过去,模不断增大AI模型规,以指数级别快速提升对于算力的需求也。代来满足云上各行各业的客户的需求火山引擎的弹性计算产品通过不断迭, Core GPU的推理加速实例 ini2从基于NVIDIA A30 Tensor,GPU面向多机多卡训练场景的超级计算 hpcpni2实例到基于NVIDIA A100 Tensor Core ,覆盖人工智能的各种负载当前火山引擎提供的产品,索、推荐等内部客户很好的服务了字节搜,外部客户以及各种。

  HPC实例和机器学习平台火山引擎的新一代弹性计算,更好的AI算力性能将为企业客户提供,客户体验不断提升。来未,作伙伴共同开发新产品火山引擎将继续与合,包容性的 AI计算能力为所有云用户提供更多。

  平台面向专业开发者火山引擎机器学习,的大规模训练系统和推理系统对外开放将经过字节跳动亿级DAU产品打磨。、针对训练优化的资源调度引擎平台基于超大算力池、资源池化,升资源利用率能够大幅提,碎片率0%实现GPU。迁移过程中业务上云或,、代码和数据无需修改镜像。S分布式训练框架全自研ByteP,ovod/DDP高达84%性能超主流训练框架Hor,odel大模型训练框架全自研veGiantM,on、DeepSpeed提升30%以上相比主流模型并行训练框架Megatr。

  外此,性计算实例之上火山引擎在弹,云原生机器学习平台构建了一站式企业级,据处理及加速、模型训练、模型推理等服务为机器学习应用开发者提供高效、稳定的数,利用率和开发者体验极致提升GPU资源。

分享: