VMware Cloud na AWS está obtendo GPUs virtualizadas enquanto a empresa faz parceria com a Nvidia

Nvidia

Com a IA e o aprendizado de máquina sendo uma parte cada vez mais indispensável da computação moderna, os fundamentos de negócios da Nvidia permanecem fortes. Eles lideraram seus esforços para serem uma força proeminente no negócio de servidores, estabelecendo parcerias com várias empresas de tecnologia. Recentemente, a Nvidia e a VMware anunciaram um empate, que trará o vGPU (Virtual GPU Technology) da Nvidia para a pilha vSphere da VMware na AWS.

As GPUs são projetadas com a computação paralela de dados em mente, o que acelera as operações de vetor e matriz. Isso os torna ideais para cargas de trabalho de IA.

Anteriormente limitado a apenas CPU, as cargas de trabalho de IA agora podem ser facilmente implantadas em ambientes virtualizados como VMware vSphere com novo vComputeServer software e NVIDIA NGC . Através da nossa parceria com VMware , essa arquitetura ajudará as organizações a migrar perfeitamente as cargas de trabalho de IA em GPUs entre os data centers do cliente e a nuvem VMware na AWS.

- ANNE HECHT (Nvidia)

As cargas de trabalho aceleradas por GPU geralmente são executadas em servidores físicos de um único locatário, mas com o vComputeServer as empresas podem executar cargas de trabalho de IA em um ambiente virtualizado, isso oferece mais flexibilidade e economia monetária (até uma determinada escala). A Nvidia já oferece suporte a alguns hipervisores baseados em KVM, incluindo Red Hat e Nutanix. O vSphere da VMware é a adição mais recente.

Os recursos do vComputeServer incluem:

• Desempenho da GPU: Treinamento de aprendizado profundo até 50x mais rápido do que somente CPU, desempenho semelhante ao de execução de GPU em bare metal.
• Cálculo avançado: O código de correção de erros e a desativação de página dinâmica evitam a corrupção de dados para cargas de trabalho de alta precisão.
• Migração ao vivo: As máquinas virtuais habilitadas para GPU podem ser migradas com o mínimo de interrupção ou tempo de inatividade.
• Maior segurança: As empresas podem estender os benefícios de segurança da virtualização de servidor para clusters de GPU.
• Isolamento multilocatário : As cargas de trabalho podem ser isoladas para oferecer suporte seguro a vários usuários em uma única infraestrutura.
• Gestão e monitoramento : Os administradores podem usar as mesmas ferramentas de virtualização de hipervisor para gerenciar servidores GPU, com visibilidade no host, máquina virtual e nível de aplicativo.
• Ampla gama de GPUs com suporte: O vComputeServer é compatível com GPUs NVIDIA T4 ou V100, bem como GPUs Quadro RTX 8000 e 6000, e gerações anteriores de GPUs P40, P100 e P60 de arquitetura Pascal.

- Nvidia

Os usuários do VMware vSphere também terão suporte para Nvidia GPU Cloud, que é uma plataforma de nuvem acelerada por GPU otimizada para aprendizado profundo e computação científica. Anne Hecht da Nvidia escreve “ NVIDIA NGC , nosso hub para software otimizado por GPU para aprendizado profundo, aprendizado de máquina e HPC, oferece mais de 150 contêineres, modelos pré-treinados, scripts de treinamento e fluxos de trabalho para acelerar a IA do conceito à produção, incluindo RAPIDS , nosso software de ciência de dados acelerado por CUDA ”.

Parceria VMware em linha com a aquisição recente

A VMware vai adquirir o Bitfusion, que agregará muito valor à sua plataforma de nuvem vSphere. Conforme discutimos anteriormente neste artigo, a virtualização pode oferecer às empresas muitos benefícios com um impacto mínimo no desempenho. Com a tecnologia da Bitfusion, as empresas serão capazes de se afastar de servidores bare-metal e virtualizar suas GPUs, pois tal arranjo pode resultar em melhor utilização dos recursos disponíveis. Com a computação acelerada no centro das atenções, as empresas buscarão maneiras de virtualizar sua pilha de hardware, a VMware está bem ciente disso e estão se movendo para tornar a plataforma vSphere vital em data centers.