Локальный ИИ или API : точка безубыточности

Купить машину для запуска модели у себя, арендовать GPU или платить за API: при каком объеме каждый вариант становится самым дешевым? Этот инструмент сравнивает все три варианта для вашего реального использования.

Как использовать

  1. Введите ваши входные и выходные токены в месяц (в миллионах) и выберите модель API для сравнения.
  2. Опишите вашу машину: цена, срок амортизации, мощность, цена на электроэнергию, скорость генерации, возможное потребление в режиме ожидания.
  3. Укажите почасовую ставку аренды GPU.
  4. Посмотрите три варианта ежемесячных затрат, уровень загрузки машины и итоговую рекомендацию.

Принципы расчета

  • Стоимость API — это месячный объем, умноженный на цены выбранной модели, конвертированный в евро.
  • Время вычислений определяется скоростью: выходные токены ÷ скорость генерации, плюс входные токены ÷ (скорость × коэффициент чтения промпта).
  • Локальная стоимость складывается из амортизации (цена ÷ месяцы) и потребленной электроэнергии за это время вычислений, плюс возможное потребление в режиме ожидания; аренда умножает часы вычислений на почасовой тариф.
  • Точка безубыточности — это цена оборудования, деленная на ежемесячную экономию по сравнению с API после вычета затрат на электроэнергию. Уровень загрузки сравнивает часы вычислений с 720 часами в месяце.

Важные ограничения

Локальная модель редко эквивалентна передовой модели API: сравнивайте с моделью того же класса. Расчет игнорирует ваше время, обслуживание, качество сервиса, пиковые нагрузки, кэширование и длинный контекст.