Com o rápido aumento de aplicativos de IA, liderados por modelos como o ChatGPT, a demanda por poder de computação disparou.Para atender às crescentes demandas computacionais da era da IA, o H3C Group, sob a égide do Tsinghua Unigroup, apresentou recentemente 11 novos produtos nas séries H3C UniServer G6 e HPE Gen11 no NAVIGATE Leader Summit 2023.Esses novos produtos de servidor criam uma matriz abrangente para IA em vários cenários, fornecendo uma poderosa plataforma subjacente para lidar com dados massivos e algoritmos de modelo e garantindo um amplo suprimento de recursos de computação de IA.
Matriz de produtos diversos para atender às necessidades variadas de computação de IA
Como líder em computação inteligente, o H3C Group está profundamente envolvido no campo da IA há muitos anos.Em 2022, a H3C alcançou a maior taxa de crescimento no mercado chinês de computação acelerada e acumulou um total de 132 primeiros lugares no ranking mundial no benchmark de IA de renome internacional MLPerf, demonstrando sua forte experiência técnica e capacidades.
Aproveitando uma arquitetura de computação avançada e recursos de gerenciamento de energia de computação inteligente construídos com base na computação inteligente, a H3C desenvolveu o carro-chefe de computação inteligente H3C UniServer R5500 G6, projetado especificamente para treinamento de modelo em grande escala.Eles também introduziram o H3C UniServer R5300 G6, um mecanismo de computação híbrido adequado para cenários de inferência/treinamento em larga escala.Esses produtos atendem ainda mais aos diversos requisitos de computação em diferentes cenários de IA, fornecendo cobertura abrangente de computação de IA.
Carro-chefe de computação inteligente projetado para treinamento de modelos em larga escala
O H3C UniServer R5500 G6 combina força, baixo consumo de energia e inteligência.Em comparação com a geração anterior, ele oferece três vezes mais poder computacional, reduzindo o tempo de treinamento em 70% para cenários de treinamento de modelo de grande escala GPT-4.É aplicável a vários cenários de negócios de IA, como treinamento em larga escala, reconhecimento de fala, classificação de imagem e tradução automática.
Força: o R5500 G6 suporta até 96 núcleos de CPU, proporcionando um aumento de 150% no desempenho do núcleo.Ele é equipado com o novo módulo NVIDIA HGX H800 8-GPU, fornecendo 32 PFLOPS de potência computacional, resultando em uma melhoria de 9x na velocidade de treinamento de IA de modelo em larga escala e uma melhoria de 30x no desempenho de inferência de IA de modelo em grande escala.Além disso, com o suporte de rede PCIe 5.0 e 400G, os usuários podem implantar clusters de computação de IA de alto desempenho, acelerando a adoção e a aplicação de IA nas empresas.
Inteligência: o R5500 G6 oferece suporte a duas configurações de topologia, adaptando-se de forma inteligente a vários cenários de aplicativos de IA e acelerando aplicativos de aprendizado profundo e computação científica, melhorando consideravelmente a utilização de recursos da GPU.Graças ao recurso de GPU de várias instâncias do módulo H800, um único H800 pode ser dividido em 7 instâncias de GPU, com a possibilidade de até 56 instâncias de GPU, cada uma com recursos independentes de computação e memória.Isso aumenta significativamente a flexibilidade dos recursos de IA.
Pegada de baixo carbono: o R5500 G6 suporta totalmente o resfriamento líquido, incluindo resfriamento líquido para CPU e GPU.Com um PUE (Power Usage Effectiveness) abaixo de 1,1, ele permite uma “computação legal” no calor do pico computacional.
Vale a pena mencionar que o R5500 G6 foi reconhecido como um dos “10 melhores servidores de alto desempenho de 2023″ no “2023 Power Ranking for Computational Performance” após seu lançamento.
Mecanismo de computação híbrida para correspondência flexível de demandas de treinamento e inferência
O H3C UniServer R5300 G6, como o servidor AI de próxima geração, oferece melhorias significativas nas especificações de CPU e GPU em comparação com seu antecessor.Possui excelente desempenho, topologia inteligente e recursos integrados de computação e armazenamento, tornando-o adequado para treinamento de modelo de aprendizado profundo, inferência de aprendizado profundo e outros cenários de aplicativos de IA, combinando de forma flexível as necessidades de treinamento e computação de inferência.
Desempenho excepcional: o R5300 G6 é compatível com a última geração de GPUs NVIDIA de nível empresarial, proporcionando uma melhoria de desempenho de 4,85x em comparação com a geração anterior.Ele oferece suporte a vários tipos de placas de aceleração de IA, como GPUs, DPUs e NPUs, para atender aos requisitos heterogêneos de poder de computação da IA em diferentes cenários, fortalecendo a era da inteligência.
Topologia inteligente: o R5300 G6 oferece cinco configurações de topologia de GPU, incluindo HPC, IA paralela, IA serial, acesso direto de 4 cartões e acesso direto de 8 cartões.Essa flexibilidade sem precedentes aumenta consideravelmente a capacidade de adaptação a diferentes cenários de aplicativos do usuário, aloca recursos de forma inteligente e impulsiona uma operação de poder de computação eficiente.
Computação e armazenamento integrados: o R5300 G6 acomoda de forma flexível cartões de aceleração AI e NICs inteligentes, combinando recursos de treinamento e inferência.Ele suporta até 10 GPUs de largura dupla e 24 slots de disco rígido LFF (Large Form Factor), permitindo treinamento e inferência simultâneos em um único servidor e fornecendo um mecanismo de computação econômico para ambientes de desenvolvimento e teste.Com uma capacidade de armazenamento de até 400 TB, atende totalmente aos requisitos de espaço de armazenamento dos dados de IA.
Com o boom da IA avançando, o poder da computação está sendo constantemente remodelado e desafiado.O lançamento da próxima geração de servidores AI marca outro marco no compromisso do H3C Group com a tecnologia de “inteligência inerente” e seu impulso contínuo para a evolução da computação inteligente.
Olhando para o futuro, guiado pela estratégia “Cloud-Native Intelligence”, o Grupo H3C adere ao conceito de “pragmatismo meticuloso, dotando a era de inteligência”.Eles continuarão a cultivar o solo fértil da computação inteligente, explorar cenários de aplicativos de IA de nível profundo e acelerar a chegada de um mundo inteligente com poder de computação adaptável e pronto para o futuro.
Horário da postagem: 04 de julho de 2023
