shop.antonnovikov.com / llmops
Наблюдаемость и контроль расходов ИИ
Когда ИИ-функция уже работает, каждую неделю всплывают одни и те же вопросы: сколько это стоило, почему ответ был медленным и не стало ли хуже после последней правки промпта. Я ставлю тот же мониторинг, что и на любой сервис в продакшене: каждый вызов модели записывается без персональных данных, расходы делятся по функциям и пользователям, о приближении к бюджету приходит оповещение, а каждое изменение промпта или модели проверяется на тестовом наборе до выкладки. Дашборды и правила оповещений приходят файлами в ваш репозиторий, поэтому их можно проверять и менять как обычный код.
Что входит
- Список всех мест, где ваш код вызывает модель, с названием функции для каждого
- Каждый вызов записывается: модель, токены, стоимость, задержка и результат; персональные данные маскируются или не сохраняются
- Дашборд расходов по функциям и пользователям с прогнозом до конца месяца
- Дневные и месячные бюджеты с оповещениями в Telegram, Slack или на почту
- Памятка о данных: что хранится, как долго и кто это видит
- Передача: исходники и краткая инструкция по эксплуатации
Калькулятор
Заявка
Чтобы отправить заявку, войдите или создайте аккаунт: так вы увидите статус и сможете писать мне в одной переписке. Выбранные опции сохранятся.
Другие услуги
- ИИ-ассистент для поддержки и продажот $920 Чат-ассистент, который отвечает клиентам по вашим данным: на сайте или в мессенджерах.
- Поиск и ответы по базе знаний (RAG)от $1 840 Вопрос обычным языком: ответ с источниками из ваших документов.
- Автоматизация процессов с ИИот $710 Рутину делают сценарии на n8n или Python с шагами на LLM: разобрать, суммировать, составить, направить.
- Telegram-бот с ИИот $1 050 Telegram-бот, который общается, читает файлы и фото, помнит контекст и выполняет задачи.