Внедрение AI в бизнес: ИИ-агенты, RAG и голос под ключ

Архитектура агента строится так, что LLM это плагин. Если завтра OpenAI/Anthropic отключают — переключаемся на GigaChat / YandexGPT / Llama за день. На большинстве проектов основная модель сразу российская, чтобы не зависеть от геополитики.

FAQ-бот на 1000 диалогов/мес = 3-5 тыс. ₽ токенов GigaChat. AI-классификатор на 5000 заявок = ~2 тыс. ₽. Голосовой колл-центр на 5000 звонков/день = 80-150 тыс. ₽/мес (STT+TTS+LLM). До старта закладываем расход в смету.

Защищаемся тремя способами: 1) жёсткие промпты "не выдумывай, при отсутствии данных отвечай не знаю"; 2) RAG — AI отвечает только из проверенных источников; 3) grade-of-confidence — на критичных решениях shadow mode и ручное подтверждение. Точность на типовых задачах после тюнинга — 95-99%.

Нет. У GigaChat и YandexGPT есть режим "без передачи данных на обучение" (включается в API). У OpenAI/Anthropic — тоже (через DPA-соглашение). Для критичных данных используем локальные LLM на вашем сервере. NDA подписывается до старта.

На юридически значимых ответах AI всегда работает с подтверждением человеком (типовые шаблоны → проверка менеджером → отправка). На FAQ и информационных — есть disclaimer "автоматический ответ, для уточнения свяжитесь с менеджером". Прецеденты есть только за рубежом и только при отсутствии disclaimer.

Прототип на ваших данных — 1-2 недели. Запуск базового AI-сценария — 3-5 недель. Полное внедрение комплекса — 2-6 месяцев. Стабильная окупаемость по метрикам — 2-4 месяца после запуска (нужно время на тюнинг и наполнение RAG-памяти).

Универсальные технологии (LLM, OCR, STT, RAG) подходят под любую отрасль. Специфика появляется на этапе аудита и прототипа. Если прототип не показывает достаточной точности — честно говорю, что AI в этом конкретном кейсе не окупится. Идём классической автоматизацией или регламентами.

Это самый правильный путь. Один AI-кейс с обсуждаемым бюджетом, обкатывается 2-3 месяца, по результатам решаем что дальше. 80% наших проектов так и стартуют. Иначе риск вложиться в большой комплекс и обнаружить что нужно было не это.

Вам. Код в вашем репозитории (GitHub/GitLab/локально), доступы у вас, ключи API у вас. Я не привязываю клиента к себе через "коробочное решение". Если завтра захотите работать с другим инженером — он берёт исходники и продолжает.

Мониторинг 24/7 с алертами в Telegram, реагирование на сбои (1-2 часа на критичные, до рабочего дня на стандартные), ежемесячный отчёт по метрикам, обновление промптов когда меняются бизнес-процессы, миграция на новые модели если они лучше.

Для агентов на облачных LLM (GigaChat/YGPT/Claude) GPU не нужна — обычный VPS за 1.5-3 тыс. ₽/мес. Для локальных LLM (Llama 70B/Qwen) нужна GPU 40-80 ГБ VRAM — это 25-80 тыс. ₽/мес аренды или 400-900 тыс. ₽ покупки. На этапе аудита решаем что вам подходит.

Часто да. На этапе аудита показываю прототип на ваших реальных данных — например AI размечает ваши последние 50 заявок и сравнивает с тем, как разметили менеджеры. Это бесплатно и занимает 1-2 дня.