shop.antonnovikov.com / llmops

Наблюдаемость и контроль расходов ИИ

Когда ИИ-функция уже работает, каждую неделю всплывают одни и те же вопросы: сколько это стоило, почему ответ был медленным и не стало ли хуже после последней правки промпта. Я ставлю тот же мониторинг, что и на любой сервис в продакшене: каждый вызов модели записывается без персональных данных, расходы делятся по функциям и пользователям, о приближении к бюджету приходит оповещение, а каждое изменение промпта или модели проверяется на тестовом наборе до выкладки. Дашборды и правила оповещений приходят файлами в ваш репозиторий, поэтому их можно проверять и менять как обычный код.

от $1 900 + $790/месобычно 6–9 дн.ИИ-модели оплачиваются отдельно, по цене провайдера

Что входит

  • Список всех мест, где ваш код вызывает модель, с названием функции для каждого
  • Каждый вызов записывается: модель, токены, стоимость, задержка и результат; персональные данные маскируются или не сохраняются
  • Дашборд расходов по функциям и пользователям с прогнозом до конца месяца
  • Дневные и месячные бюджеты с оповещениями в Telegram, Slack или на почту
  • Памятка о данных: что хранится, как долго и кто это видит
  • Передача: исходники и краткая инструкция по эксплуатации

Калькулятор

«+$» добавляется к цене, «+N%» меняет итог, «/мес» платится после запуска.

Как записываются вызовы модели

SDK-обёртка: небольшая правка в вашем коде, запускать ничего нового не нужно. Шлюз: код почти не меняется (адрес провайдера и несколько заголовков), но на пути каждого вызова появляется ещё один сервис. OpenTelemetry: подходит, если трассировка у вас уже есть; вызовы только наблюдаются, управлять ими нельзя.

Дашборды

Оповещения

Изменения промптов и моделей

Дополнительно

Подписка

Что входит в подписку и условия

Подписка удешевляет разработку: я держу сервис в рабочем состоянии, слежу за ошибками и расходами на ИИ и каждый месяц улучшаю его, поэтому сборка стоит меньше. Без подписки вы получаете код и запускаете сами по полной цене.

Сроки

Заявка

Чтобы отправить заявку, войдите или создайте аккаунт: так вы увидите статус и сможете писать мне в одной переписке. Выбранные опции сохранятся.

Создать аккаунт Войти

Другие услуги

  1. ИИ-ассистент для поддержки и продажот $920 Чат-ассистент, который отвечает клиентам по вашим данным: на сайте или в мессенджерах. 6–9 дн. · +$790/мес
  2. Поиск и ответы по базе знаний (RAG)от $1 840 Вопрос обычным языком: ответ с источниками из ваших документов. 8–12 дн. · +$1 190/мес
  3. Автоматизация процессов с ИИот $710 Рутину делают сценарии на n8n или Python с шагами на LLM: разобрать, суммировать, составить, направить. 4–6 дн. · +$490/мес
  4. Telegram-бот с ИИот $1 050 Telegram-бот, который общается, читает файлы и фото, помнит контекст и выполняет задачи. 7–10 дн. · +$520/мес

Калькулятор по всем услугам