Главная · Блог · Чат-бот с нейросетью по вашей базе знаний: устройство и цена ответа

Чат-бот с нейросетью по вашей базе знаний: устройство и цена ответа

· обновлено · Команда ЧБТ · ИИ

ИИ-агент в ЧБТ — это не «подключённый ChatGPT» и не модель, обученная на ваших данных. Это открытая языковая модель, которой при каждом ответе показывают три вещи: вашу инструкцию (роль), вашу базу знаний в виде текста и последние десять сообщений диалога. Из этого устройства следуют все его сильные и слабые стороны: что он ответит точно, где начнёт фантазировать, почему один ответ стоит один кредит и в каких задачах кнопочный бот честнее. Разбираем механику, границы и экономику; настройка по каналам — в отдельных статьях кластера, ссылки в конце.

Три источника одного ответа

Когда клиент пишет боту, а в сценарии стоит блок «ИИ-агент», модель получает один составной запрос из трёх частей:

  1. Роль — ваша инструкция из карточки агента в разделе «ИИ-агенты»: кто он, как отвечает, чего не делает. Обычно 6–10 строк.
  2. База знаний — свободный текст: описание компании, цены, условия, ответы на частые вопросы. Целиком, при каждом ответе.
  3. История — последние 10 сообщений диалога, включая ответы самого агента.

На примере. Клиент пишет: «а за КАД приедете?». Модель видит роль («консультант студии, отвечай коротко, только по базе»), всю базу — где среди прочего строка «Выезд в Ленобласть: до 30 км от КАД, +1500 ₽» — и предыдущие реплики, из которых понятно, что речь о замене проводки. Ответ: «Да, выезжаем до 30 км от КАД, доплата 1500 ₽. Назовите населённый пункт — уточню срок». Ни одного факта, которого нет в базе; формулировка — модели.

Модель читает всё это и пишет ответ. Никакого «обучения» в смысле дообучения весов не происходит: поменяли строку в базе — следующий ответ уже учитывает её. Отсюда же граница: агент знает ровно то, что написано в базе и сказано за последние десять реплик. Он не помнит вчерашний диалог, не видит вашу CRM и не заглядывает на сайт.

Практическое следствие про историю: в длинном разговоре факты из начала выпадают. Если клиент назвал город в первом сообщении, а спрашивает про доставку в пятнадцатом — агент может переспросить. Всё, что должно «помниться» всегда, кладите в базу, а не рассчитывайте на диалог.

Какая модель отвечает

Это не ChatGPT и не сервис OpenAI. В ЧБТ подключены открытые модели через платформу Replicate — например, Llama 3 70B. В карточке агента модель выбирается из трёх уровней: простая, средняя, сильная. Разница — в качестве понимания сложных и небрежных формулировок и в аккуратности следования базе; для ответов «сколько стоит» и «когда доставите» хватает средней.

Рядом — температура: чем ниже, тем ближе ответ к тексту базы и тем меньше вариативности. Для консультаций по ценам и условиям держите её низкой; повышать имеет смысл, только если агент должен писать живые тексты, а не пересказывать факты.

Две вещи, о которых стоит знать заранее. Открытые модели на русском отвечают приемлемо, но не идеально: канцеляризмы и лишние вводные — обычное дело, и строка «отвечай коротко, до трёх предложений» в роли нужна почти всегда. И в запрос к модели уходит ваша база и текст диалога — поэтому персональные данные клиентов и внутренние сведения компании в базу класть не нужно.

Чем это отличается от кнопочного бота

Разница между кнопочным сценарием и ИИ-агентом сводится к тому, кто формулирует ответ: в сценарии каждое слово написали вы — ответ предсказуем, бесплатен и доступен с «Бесплатного» тарифа, но вопрос вне меню упирается в «не понял» или в оператора; агент понимает любую формулировку и отвечает по базе с «Базового» тарифа по кредиту за ответ, но его типичная ошибка — уверенный ответ там, где база молчит. Сравнение по тарифу, плате за ответ, предсказуемости, реакции на вопрос вне сценария и риску — вместе с расчётом стоимости владения за год — вынесено в статью кнопочный, ИИ или гибрид: как выбрать тип бота.

Одно отличие, о котором в сравнениях забывают: агент отвечает текстом, но не действует. Он не записывает в CRM, не ставит теги, не отправляет webhook — всё это блоки сценария вокруг него. Поэтому «бот с нейросетью» в ЧБТ на практике всегда гибрид: сценарий ведёт и действует, агент объясняет.

Что агент делает хорошо

  • Отвечает на вопрос, ответ на который есть в базе, как бы он ни был задан: «скок стоит», «а почём», «цена?» — для модели одно и то же.
  • Держит нить разговора в пределах 10 сообщений: «а если две штуки?» после вопроса о цене поймёт правильно.
  • Работает круглосуточно во всех каналах — Telegram, MAX, ВКонтакте, виджет на сайте — из одного сценария, потому что сценарий в ЧБТ один на все подключённые каналы.
  • Передаёт диалог человеку: когда не уверен в ответе или не находит его в базе, блок «ИИ-агент» уходит по порту «не понял» — ведите его в «Оператор». Слово «оператор» ловите отдельным сценарием с триггером «Ключевое слово»: он сработает, если агент стоит в режиме «Ответить и продолжить сценарий».
  • Меняется без программиста: правка базы — обычный текст, вступает в силу сразу.

Кроме агента в ЧБТ есть ещё две ИИ-функции, которые с ним путают. «ИИ-сценарий» в редакторе — генерация сценария по описанию: «бот для записи в барбершоп с выбором мастера и телефоном» превращается в набор блоков, который дальше правится руками. И ИИ-правка текстом — «добавь после приветствия сбор e-mail». Обе работают на этапе сборки и к ответам клиентам отношения не имеют; кредиты тратит только агент в диалоге.

Отдельная сильная сторона — длинный хвост вопросов. Кнопочный бот хорошо закрывает 5–10 частых тем; на 40 редких вопросов кнопок не хватит, а в базе они занимают по три строки каждый. Именно поэтому агент чаще всего стоит за кнопкой «Другой вопрос», а не на входе.

Где границы

  1. Вне базы — либо отказ, либо выдумка. На вопрос, которого в базе нет, хороший агент говорит «уточню» и передаёт оператору; плохой — уверенно сочиняет. Что из двух случится, зависит от роли и явных запретов в базе, а не от модели.
  2. Только текст. В базу нельзя загрузить PDF, DOCX или ссылку на сайт — только вставить текст. В Telegram, MAX и ВКонтакте бот отправляет текст и кнопки, без картинок и файлов; файлы есть только в виджете, и читает их оператор, а не агент.
  3. Объём ограничен моделью. База уходит модели целиком с каждым вопросом вместе с ролью и историей, а окно модели небольшое: услуги с прайсом помещаются, каталог из сотен позиций — нет. Выход — категории вместо позиций или несколько агентов в разных ветках сценария.
  4. Память — 10 сообщений и только текущий диалог.
  5. Никаких действий. Не запишет на время (календаря и слотов в ЧБТ нет — запись это заявка текстом), не примет оплату, не проверит статус в вашей системе.
  6. Нет списка неотвеченных вопросов. Узнать, чего не хватает базе, можно только читая переданные оператору диалоги.
  7. Нет счётчиков по блокам. В «Аналитике» есть входящие и ответы бота и оператора по дням за 14 дней (ответы агента входят в «Ответы бота») и число диалогов, которые ждут оператора, но не «сколько людей дошли до блока агента» — это считают тегами через «Действие → Добавить тег» перед блоком.

Ни одна из границ не мешает запуску, если о ней знать заранее и заложить в сценарий: файл — оператору, запись — в «Сбор данных», статус заказа — в текст «как посмотреть самому».

Экономика: один ответ — один кредит

Тарификация не зависит от длины вопроса и ответа: один ответ агента в диалоге — один кредит. Кредиты входят в тариф: «Базовый» (650 ₽ за бота в месяц) — 150 кредитов, «Бизнес» (1290 ₽) — 500. На «Бесплатном» ИИ нет.

Если считать грубо, что тариф куплен ради ИИ, ответ обходится в 4,3 ₽ на «Базовом» и 2,6 ₽ на «Бизнесе». Честнее считать иначе: тариф покрывает ещё безлимит диалогов, холст, рассылки, операторов без ограничений — а кредиты идут сверху.

ПотокДиалогов с ИИ в месяцОтветов на диалогКредитовТариф
Мастер, небольшая студия30390«Базовый»
Клиника, школа, сервис1203–4360–480«Бизнес»
Магазин с трафиком40041600ИИ только на «длинный хвост»

Когда кредиты заканчиваются, агент отвечает нейтральным текстом, а сценарий уходит по ветке fallback — у блока «ИИ-агент» есть такой выход. Ведите его в «Оператор» или в «Сбор данных»: клиент получит человека или оставит контакт, а не тишину.

Три способа тратить меньше: кнопки на самые частые вопросы до блока агента (бесплатно), приветствие блоком «Сообщение», а не агентом, и прямая кнопка «Позвать человека» для тех, кому нейросеть не нужна. Актуальные цены и состав тарифов — на странице тарифов.

Когда ИИ не нужен

Признаки того, что кнопочный сценарий решит задачу лучше и дешевле:

  • Вопросов мало и они одинаковые. Пять-семь тем — это меню из кнопок и готовые сообщения; шаблон «Автоответчик FAQ» собирается за полчаса и работает на «Бесплатном».
  • Нужно собрать данные, а не объяснить. Заявка, запись, регистрация — блок «Сбор данных» с проверкой телефона и e-mail надёжнее любого диалога с моделью.
  • Ответ должен быть дословным. Юридические формулировки, медицинские противопоказания, условия акции — то, что нельзя пересказывать своими словами.
  • Некому писать базу. Агент без базы — генератор общих фраз. Если текст базы никто не соберёт и не будет обновлять, ИИ не поможет.
  • Поток меньше 30 диалогов в месяц и бюджета на тариф нет: на «Бесплатном» с его 30 диалогами ИИ недоступен, а кнопочный бот — да.
  • Клиенты пишут голосом и фотографиями. Агент работает с текстом: голосовое сообщение и фото товара он не разберёт, такие диалоги всё равно уйдут оператору.

И обратный признак, когда ИИ оправдан: много разнородных вопросов, ответы на которые уже написаны, и клиенты пишут ночью или в выходные, когда операторов нет.

Гибрид: место блока «ИИ-агент» в сценарии

Рабочая схема одинакова для консультаций, поддержки и сайта — различаются только кнопки:

  1. Триггер: команда /start в Telegram, «любое сообщение» там, где команд нет, «Открытие виджета» на сайте.
  2. «Сообщение» — приветствие с кнопками: типовые задачи, «Другой вопрос», «Позвать человека».
  3. Типовые кнопки — готовые сообщения и «Сбор данных». Без кредитов.
  4. «Другой вопрос» — «ИИ-агент». Перед ним можно поставить «Действие → Добавить тег», чтобы потом посчитать, сколько людей дошли до нейросети.
  5. После агента — «Оператор». Туда же — выход на исчерпание кредитов и кнопка «Позвать человека».

Два дополнения, которые пригодятся не всем. Блок «Условие» по времени суток: днём — сразу к оператору, ночью — к агенту; это снижает расход кредитов там, где люди и так на месте. И триггер «Намерение» — ИИ-классификация текста: сценарий стартует, когда сообщение похоже на заданную тему («хочу вернуть товар»), и ведёт по нужной ветке без кнопок. Он полезен, когда клиенты пишут свободным текстом вместо нажатия кнопок.

С чего начать: карта кластера

Эта статья — про устройство и границы. Конкретные сборки — в соседних:

Порядок для первого запуска: собрать базу в текстовом файле → создать агента и прогнать тест-чат в кабинете → вставить блок «ИИ-агент» в сценарий за кнопкой «Другой вопрос» → поставить «Оператор» после него → неделя на «Базовом» или «Бизнесе» и разбор переданных диалогов. Пробный период «Бизнеса» на 1 день включается в разделе «Оплата». Создать бота и попробовать ИИ-агента →

Ещё в блоге