Entrenar los modelos más grandes de inteligencia artificial ya no se reduce a añadir más GPU (procesadores gráficos, núcleo del cálculo de los modelos). Según esta entrevista, publicada como contenido patrocinado, la disponibilidad de energía se convierte en una restricción física fuerte, que lleva a los equipos de infraestructura a plantearse ejecutar una misma carga de entrenamiento en varios centros de datos.
- El entrenamiento de IA ya no cabe en un solo centro de datos por falta de energía.
- Las empresas reparten una misma carga entre varios sitios geográficamente separados.
- La red deja de ser un simple transporte y pasa a formar parte del cálculo.
- Cisco propone su enfoque Scale-Across con buffering, óptica coherente y cifrado acelerado por hardware.
Este escenario plantea un problema de red muy diferente al de los enlaces tradicionales entre sitios, diseñados para transportar tráfico. El entrenamiento de IA exige flujos voluminosos y síncronos, una pérdida de paquetes mínima y una comunicación estrechamente coordinada entre las GPU. Si una parte del clúster se ralentiza, el efecto puede propagarse a toda la tarea.
Una red que se convierte en parte del cálculo
En esta entrevista realizada por Tim Phillips, de The Register, con Rakesh Chopra, SVP, Silicon and Systems Architecture, Cisco Fellow, se habla de lo que Cisco denomina el imperativo «Scale-Across». Rakesh Chopra explica que las necesidades de la IA están evolucionando el papel de la red, que pasa de ser un simple medio de transporte a un elemento integrado en el sistema de cálculo. El desafío consiste en hacer funcionar instalaciones geográficamente separadas como una sola máquina determinista.
El almacenamiento en búfer (buffering), la óptica coherente de alto ancho de banda y el silicio estrechamente integrado adquieren una importancia particular cuando las cargas de trabajo se extienden a través de enlaces de fibra de larga distancia. La arquitectura Silicon One de Cisco y Intelligent Collective Networking se presentan como diseñadas para gestionar las ráfagas sincronizadas de tráfico de GPU, reducir los cuellos de botella y mejorar el tiempo de finalización de la tarea. El consumo eléctrico de la red, y su arbitraje con la energía disponible para las GPU, también figura entre los temas centrales.
Seguridad y escalabilidad
La entrevista aborda también la seguridad, con los protocolos MACsec y IPsec acelerados por hardware. Son protocolos de cifrado de los intercambios de datos en la red. El papel de la programabilidad, que permite a las infraestructuras adaptarse a la evolución de las cargas de trabajo de IA, también se menciona.
Dirigido a responsables de infraestructuras y centros de datos que planifican entornos de IA más grandes y distribuidos, el intercambio ofrece una visión general de los desafíos de red que aparecen cuando un solo sitio ya no basta. La entrevista completa está disponible en vídeo.
