Treinar os maiores modelos de inteligência artificial já não se resume a adicionar GPU (processadores gráficos, no cerne do cálculo dos modelos). Segundo esta entrevista, publicada como conteúdo patrocinado, a disponibilidade de energia torna-se uma restrição física forte, que leva as equipas de infraestrutura a considerar a execução de uma mesma carga de treino em vários centros de dados.
Este cenário coloca um problema de rede muito diferente do das ligações tradicionais entre sites, concebidas para encaminhar tráfego. O treino de IA exige fluxos volumosos e síncronos, uma perda de pacotes mínima e uma comunicação estreitamente coordenada entre GPU. Se uma parte do cluster abranda, o efeito pode propagar-se a toda a tarefa.
Uma rede que se torna parte do cálculo
Nesta entrevista conduzida por Tim Phillips, de The Register, com Rakesh Chopra, SVP, Silicon and Systems Architecture, Cisco Fellow, aborda-se o que a Cisco designa como imperativo « Scale-Across ». Rakesh Chopra explica que as necessidades da IA estão a evoluir o papel da rede, que passa de um simples meio de transporte para um elemento integrado no sistema de cálculo. O desafio consiste em fazer funcionar instalações geograficamente separadas como uma única máquina determinística.
A colocação em memória intermédia (buffering), a ótica coerente de alto débito e o silício estreitamente integrado assumem uma importância particular quando as cargas de trabalho se estendem por ligações de fibra de longa distância. A arquitetura Silicon One da Cisco e Intelligent Collective Networking são apresentadas como concebidas para gerir as rajadas sincronizadas de tráfego GPU, reduzir os estrangulamentos e melhorar o tempo de conclusão da tarefa. O consumo elétrico da rede, e a sua arbitragem com a energia disponível para as GPU, figura também entre os temas centrais.
Segurança e escalabilidade
A entrevista aborda também a segurança, com os protocolos MACsec e IPsec acelerados pelo hardware. São protocolos de cifragem das trocas de dados na rede. O papel da programabilidade, que permite às infraestruturas adaptarem-se à evolução das cargas de trabalho de IA, é também referido.
Destinado aos responsáveis de infraestruturas e de centros de dados que planeiam ambientes de IA maiores e mais distribuídos, o intercâmbio propõe uma visão geral dos desafios de rede que surgem quando um único local já não basta. A entrevista na íntegra está disponível em vídeo.
