NVIDIA anuncia sistemas DGX H100 – A infraestrutura de IA corporativa mais avançada do mundo
Combinado com o novo sistema de switch NVLink, cada SuperPOD DGX entregará 1 Exaflops de desempenho de IA; Novo supercomputador NVIDIA Eos deverá ser o sistema de IA mais rápido do mundo; On-ramp imediato para clientes através do serviço de fundição DGX expandido
GTC- A NVIDIA anunciou hoje o sistema NVIDIA® DGX™ de quarta geração, a primeira plataforma de IA do mundo a ser construída com novas GPUs NVIDIA H100 Tensor Core.
Os sistemas DGX H100 fornecem a escala exigida para atender aos requisitos massivos de computação de grandes modelos de linguagem, sistemas recomendador, pesquisa em saúde e ciência climática. Embalando oito GPUs NVIDIA H100 por sistema, conectadas como uma pela NVIDIA NVLink®, cada DGX H100 fornece 32 petaflops de desempenho de IA com nova precisão FP8 — 6x a mais do que a geração anterior.
Os sistemas DGX H100 são os blocos de construção das plataformas de infraestrutura NVIDIA DGX POD™ e NVIDIA DGX SuperPOD™ AI de última geração. A mais recente arquitetura DGX SuperPOD possui um novo sistema de switch NVIDIA NVLink que pode conectar até 32 nós com um total de 256 GPUs H100.
Fornecendo 1 exaflops de desempenho de IA FP8, 6x a mais do que seu antecessor, o SuperPOD DGX de próxima geração expande as fronteiras da IA com a capacidade de executar cargas de trabalho llm maciças com trilhões de parâmetros.
“A IA mudou fundamentalmente o que o software pode fazer e como ele é produzido. As empresas que revolucionam suas indústrias com IA percebem a importância de sua infraestrutura de IA”, disse Jensen Huang, fundador e CEO da NVIDIA. “Nossos novos sistemas DGX H100 alimentarão fábricas de IA corporativas a refinar dados em nosso recurso mais valioso — inteligência.”
Anunciando a NVIDIA Eos — A NVIDIA supercomputador de IA mais rápida do mundo será a primeira a construir um SuperPOD DGX com a inovadora nova arquitetura de IA para impulsionar o trabalho de pesquisadores da NVIDIA que avançam na ciência climática, biologia digital e no futuro da IA.
Espera-se que seu supercomputador “Eos” seja o sistema de IA mais rápido do mundo depois que ele começar a operar no final deste ano, com um total de 576 sistemas DGX H100 com 4.608 GPUs DGX H100.
A NVIDIA Eos está prevista para fornecer 18,4 exaflops de desempenho de computação em IA, processamento de IA 4x mais rápido que o supercomputador Fugaku no Japão, que atualmente é o sistema mais rápido do mundo. Para a computação científica tradicional, espera-se que o Eos forneça 275 petaflops de desempenho.
A EOS servirá como um projeto para infraestrutura avançada de IA da NVIDIA, bem como seus parceiros OEM e cloud.
A IA Corporativa escala facilmente com sistemas DGX H100, DGX POD e DGX SuperPOD
DGX H100 facilmente dimensionados para atender às demandas da IA à medida que as empresas crescem de projetos iniciais para implantações amplas.
Além de oito GPUs H100 com um total de 640 bilhões de transistores, cada sistema DGX H100 inclui dois NVIDIA BlueField-3 DPUs® para descarregar, acelerar e isolar serviços avançados de rede, armazenamento e segurança.
Oito NVIDIA ConnectX-7® Os adaptadores de rede Quantum-2 InfiniBand fornecem 400 gigabits por segundo de throughput para se conectar com computação e armazenamento — o dobro da velocidade do sistema de geração anterior. E um NVLink de quarta geração, combinado com o NVSwitch™, fornece conectividade de 900 gigabytes por segundo entre cada GPU em cada sistema DGX H100, 1,5x a mais do que a geração anterior.
Os sistemas DGX H100 usam CPUs x86 duplas e podem ser combinados com rede NVIDIA e armazenamento de parceiros NVIDIA para fazer PODs DGX flexíveis para computação de IA em qualquer tamanho.
O DGX SuperPOD fornece um centro de excelência em IA corporativa escalável com sistemas DGX H100. Os nós DGX H100 e as GPUs H100 em um SuperPOD DGX são conectados por um NVLink Switch System e NVIDIA Quantum-2 InfiniBand fornecendo um total de 70 terabytes/seg de largura de banda – 11x a mais que a geração anterior. O armazenamento dos parceiros da NVIDIA será testado e certificado para atender às demandas da computação DGX SuperPOD AI.
Várias unidades do DGX SuperPOD podem ser combinadas para fornecer o desempenho de IA necessário para desenvolver modelos massivos em setores como automotivo, saúde, manufatura, comunicações, varejo e muito mais.
NVIDIA DGX Foundry Acelera o Sucesso do Cliente Com o DGX SuperPOD
A solução de desenvolvimento hospedada da NVIDIA DGX Foundry está se expandindo em todo o mundo para dar aos clientes do DGX SuperPOD acesso imediato à infraestrutura avançada de computação enquanto seus sistemas estão sendo instalados. Novas localizações adicionadas na América do Norte, Europa e Ásia oferecem acesso remoto a SuperPODs DGX, ou uma parte de uma.
A DGX Foundry inclui o software NVIDIA Base Command™, que permite que os clientes gerenciem facilmente o ciclo de vida de desenvolvimento de IA de ponta a ponta na infraestrutura DGX SuperPOD.
Empresas qualificadas podem experimentar sistemas NVIDIA Base Command e DGX gratuitamente através de laboratórios curados disponíveis através do NVIDIA LaunchPad hospedado nos data centers da Equinix International Business Exchange™ (IBX®) em todo o mundo.
MLOps, Enterprise AI Software Support Clientes A crescente adoção de
IA Para apoiar clientes DGX que estão operacionalizando o desenvolvimento de IA, as soluções MLOps de parceiros de Software Pronto para NVIDIA DGX, incluindo Domino Data Lab, Run:ai e Weights & Biases estão se juntando ao programa “NVIDIA AI Accelerated”.
Os aplicativos MLOps dos parceiros participantes serão validados para fornecer aos clientes DGX um fluxo de trabalho de nível corporativo e soluções de gerenciamento de cluster, agendamento e orquestração.
Além disso, os sistemas NVIDIA DGX agora incluem o conjunto de software NVIDIA AI Enterprise, que recentemente suporta infraestrutura de metal nu. Os clientes da DGX podem acelerar seu trabalho com os modelos de plataforma NVIDIA AI pré-treinados, kits de ferramentas e frameworks incluídos no pacote de software, como NVIDIA RAPIDS™, NVIDIA TAO Toolkit, NVIDIA Triton Inference Server™ e muito mais.
Programa de Serviços Gerenciados Prontos para DGX Simplifica implantações
de IA À medida que a adoção de IA corporativa cresce, os clientes estão buscando mais opções para adicionar a infraestrutura necessária para transformar seus negócios. A NVIDIA está introduzindo um novo programa de Serviços Gerenciados Prontos para DGX para apoiar clientes que gostariam de trabalhar com provedores de serviços para supervisionar sua infraestrutura.
A Deloitte é a primeira provedora global a se unir à NVIDIA no programa e será certificada para apoiar clientes na Europa, América do Norte e Ásia, juntamente com os provedores regionais CGit, ePlus inc., Insight Enterprises e PTC System.
“Os avanços nos negócios possíveis com a IA só podem ser realizados se as empresas tiverem a capacidade de integrar a tecnologia em suas operações”, disse Jim Rowan, diretor e líder de oferta de IA e Operações de Dados da Deloitte Consulting LLP. “Com o novo programa de Serviços Gerenciados Prontos para ODS, os clientes podem adotar facilmente a IA líder mundial com sistemas e software NVIDIA DGX gerenciados por especialistas da Deloitte em todo o mundo.”
Programa de gerenciamento do ciclo de vida pronto para DGX permite upgrades fáceis Os clientes
agora têm a capacidade de atualizar seus sistemas DGX existentes com a mais nova plataforma NVIDIA DGX através do novo programa de gerenciamento do ciclo de vida pronto para DGX.
Os parceiros de canais NVIDIA que participam do programa DGX-Ready Lifecycle Management poderão atualizar os sistemas DGX de geração anterior para compra de novos clientes, ampliando o acesso aos sistemas universais do mundo para infraestrutura de IA.
Disponibilidade Os
sistemas NVIDIA DGX H100, DGX PODs e SuperPODs DGX estarão disponíveis nos parceiros globais da NVIDIA a partir do terceiro trimestre.
Os clientes também podem optar por implantar sistemas DGX em instalações de colocação operadas por parceiros do Data Center NVIDIA DGX-Ready, incluindo os data centers Cyxtera, Digital Realty e Equinix IBX.
Sirlei Madruga de Oliveira
Editora do Guia do CFTV
Avalie esta notícia, mande seus comentários e sugestões. Encontrou alguma informação incorreta ou algum erro no texto?
Importante: ‘Todos os Conteúdos divulgados decorrem de informações provenientes das fontes aqui indicadas, jamais caberá ao Guia do CFTV qualquer responsabilidade pelo seu conteúdo, veracidade e exatidão. Tudo que é divulgado é de exclusiva responsabilidade do autor e ou fonte redatora.’
Quer enviar suas notícias? Envie um e-mail para noticias@guiadocftv.com.br
