shop.antonnovikov.com / private-llm
Своя языковая модель на вашем сервере
Некоторые данные нельзя отправлять во внешний API: договоры, клиентские записи, исходный код. Я подбираю железо и разворачиваю языковую модель с открытыми весами на вашем сервере или арендованной GPU: с OpenAI-совместимым API, управлением доступом, мониторингом и письменной процедурой обновления. Данные остаются у вас, а платите вы за железо, а не за каждый запрос.
Что входит
- Отчёт по подбору GPU: какая модель на какое железо, измеренная скорость в токенах в секунду, сравнение стоимости покупки и аренды
- Развёртывание кодом в вашем репозитории (Docker Compose или Helm): всю установку можно пересобрать одной командой
- OpenAI-совместимый API за TLS с аутентификацией: инструменты и SDK для API OpenAI работают после смены базового URL
- Логи, проверки работоспособности и базовый дашборд: загрузка GPU, память, задержки и токены в секунду
- Письменная процедура обновления и отката для модели, серверного ПО и драйверов GPU
- Передача: исходники и краткая инструкция по эксплуатации
Калькулятор
Заявка
Чтобы отправить заявку, войдите или создайте аккаунт: так вы увидите статус и сможете писать мне в одной переписке. Выбранные опции сохранятся.
Другие услуги
- ИИ-ассистент для поддержки и продажот $920 Чат-ассистент, который отвечает клиентам по вашим данным: на сайте или в мессенджерах.
- Поиск и ответы по базе знаний (RAG)от $1 840 Вопрос обычным языком: ответ с источниками из ваших документов.
- Автоматизация процессов с ИИот $710 Рутину делают сценарии на n8n или Python с шагами на LLM: разобрать, суммировать, составить, направить.
- Telegram-бот с ИИот $1 050 Telegram-бот, который общается, читает файлы и фото, помнит контекст и выполняет задачи.