В спонсируемом HPE и NVIDIA материале компании представляют концепцию «AI factory» — интегрированной инфраструктуры, предназначенной для многократного и эффективного преобразования данных в интеллект. Они предлагают три варианта: от готового решения до суверенной архитектуры, и подчеркивают, что выбор должен исходить из задач, а не из аппаратного обеспечения.
Инфраструктура, спроектированная исходя из задач
AI factory охватывает весь жизненный цикл ИИ: прием данных, разработку моделей, их обучение, адаптацию (fine-tuning), инференс (то есть выполнение), а также мониторинг и непрерывное улучшение. В тексте уточняется, что эта интеграция должна служить как врачу, инженеру или государственной службе, так и предприятию. Выбора ускоренного процессора недостаточно: вычисления должны соответствовать бизнес-модели, сеть и потоки данных должны питать ускорители, хранение — соответствовать объему данных, а безопасность, управление и совместное использование инфраструктуры несколькими пользователями должны быть продуманы заранее. Наконец, электропитание и охлаждение должны соответствовать плотности системы как сегодня, так и в будущем. Тьерри Пинар, HPE Fellow, вице-президент и технический директор (CTO) по продажам HPC и ИИ, заявляет: «Без соответствующей архитектуры, управления и операционного опыта организации не могут безопасно использовать свои данные, интегрировать ИИ в ключевые процессы или превращать инновации в устойчивое конкурентное преимущество».
Три варианта в зависимости от потребностей
Портфель HPE AI Factory with NVIDIA объединяет ускорители, сеть и программное обеспечение ИИ от NVIDIA с инфраструктурой, ПО и услугами HPE. Первое предложение, HPE Private Cloud AI, — это готовое решение, устанавливаемое на площадке заказчика, предназначенное для тонкой настройки, RAG (генерации, дополненной поиском, которая связывает модель с документами) и инференса, с потребностью до 256 GPU. Второе, HPE AI Factory at-scale, ориентировано на создателей моделей, поставщиков услуг и крупные предприятия, с ресурсами от нескольких сотен до десятков тысяч GPU, централизованным управлением и мультитенантной работой, где несколько пользователей разделяют одну инфраструктуру. Третье, HPE Sovereign AI Factory, повторяет эту архитектуру, добавляя более глубокий операционный контроль, безопасность и резидентность данных, а также конфигурации «air-gapped», изолированные от любой внешней сети.
Эксплуатация всей системы как единого целого
По мере распространения ИИ в организации у команд возникают разные потребности в ресурсах, уровнях обслуживания и границах данных. Согласно тексту, искусственное внедрение в производство, выполненное из отдельных компонентов, требует навыков, которых у многих ИТ-руководителей никогда не было в таком масштабе. Плохо спроектированная система может технически работать, но быть нерентабельной: недозагруженные GPU, узкие места в потоках данных, ограничения по питанию или охлаждению или сложные в эксплуатации системы управления. «Портфель HPE AI Factory with NVIDIA предлагает предприятиям ряд решений ИИ, совместно разработанных с NVIDIA, основанных на инженерном опыте и технических возможностях HPE, для проектирования AI factory, соответствующей их потребностям, и ее оптимизации для производительности в крупном масштабе», — уточняет Тьерри Пинар.
Суверенитет и сопровождение
Облако, частные среды и гибридные подходы — все могут играть роль в стратегии ИИ. Для организаций, подпадающих под требования суверенитета, выбор зависит главным образом от желаемого уровня контроля: место хранения данных и моделей, личность администраторов, применимая юрисдикция, правила управления и степень изоляции рабочих нагрузок. Каушик Ширхатти, вице-президент по AI Factory в NVIDIA, заявляет: «Инструменты суверенного ИИ от HPE и NVIDIA дают предприятию или даже государству полный контроль над тем, как строятся, развертываются, эксплуатируются и управляются его системы ИИ». В тексте приводятся два недавних примера развертывания: TELUS Sovereign AI Factory в Канаде и суверенная AI factory в Университете Юты в США. HPE AI Services сопровождает клиентов от планирования до эксплуатации, а HPE Financial Services предлагает, в частности, ускоренную амортизацию. Оба партнера отсылают на страницу HPE AI Factory для получения дополнительной информации.
