ИИ-агент для интернет-магазина: где его зона ответственности

Чем больше помощник умеет делать сам, тем острее вопрос границ. Разберём три зоны: где он действует свободно, где только с подтверждением и где не должен действовать вовсе.

Зона 1. Действует сам

Обратимые действия, не создающие обязательств:

• разбирает запрос и подбирает позиции;
• задаёт уточняющие вопросы;
• показывает цены, наличие и сроки из данных;
• сравнивает позиции по характеристикам;
• объясняет, чем варианты отличаются;
• сохраняет контекст диалога.

Ошибка здесь стоит недорого: человек видит результат и может переспросить.

Зона 2. Только с подтверждением человека

Действия, создающие обязательства или меняющие данные:

• оформление заявки;
• бронирование на дату;
• изменение состава заказа;
• обещание условий, отличных от стандартных.

Правило простое: перед действием помощник показывает, что именно произойдёт, и ждёт явного согласия. Формулировка «Оформляю заявку на завтра, подтверждаете?» защищает обе стороны.

Зона 3. Не должен делать никогда

• давать скидки и менять цену;
• обещать сроки, которых нет в данных;
• утверждать характеристики, отсутствующие в карточке;
• давать юридические и гарантийные обещания;
• сообщать сведения о других клиентах;
• отговаривать от обращения к человеку.

Последний пункт нарушается чаще всего и незаметно: помощник вежливо продолжает разговор вместо того, чтобы передать оператору.

Передача человеку

Это отдельный сценарий, и он должен работать безупречно:

Когда передавать. По первой просьбе. При двух неудачных попытках понять. При нестандартных условиях. При любом признаке недовольства.

Что передавать. Историю диалога, разобранную задачу, показанные позиции. Оператор не должен начинать с нуля.

Что сказать человеку. Честно: «Передаю оператору, он ответит в рабочее время до 18:00». Не «сейчас соединю», если соединения не будет.

Как ограничить помощника технически

• отвечать только по данным каталога, не по общим знаниям;
• запретить называть характеристики, которых нет в карточке;
• задать список тем, при которых сразу передаётся человеку;
• вести журнал всех действий, создающих обязательства;
• показывать источник ответа: из какой карточки взяты сведения.

Первый пункт самый важный: именно он отличает помощника от рассказчика.

Как чинить неправильное поведение — как обучить ИИ-консультанта поправками.

Что сказать посетителю

Человек должен понимать, что говорит с программой. Это не снижает доверие, а повышает его: ожидания становятся реалистичными, а просьба позвать оператора не выглядит неуместной.

Вывод и следующий шаг

Помощнику отдают подбор, объяснение и уточнения. Действия с обязательствами требуют подтверждения, а обещания вне данных запрещены полностью.

Следующий шаг: напишите на одной странице список того, что ваш помощник делает сам, что с подтверждением и чего не делает никогда. Этот документ и есть постановка задачи для настройки.

Частые вопросы

Можно ли доверить оформление заказа?

Можно с явным подтверждением человека и записью в журнал.

Должен ли помощник говорить, что он программа?

Должен. Это снимает ложные ожидания и упрощает переход к оператору.

Что делать при недовольстве в диалоге?

Передавать человеку сразу, не пытаясь дообъяснить.

Может ли помощник давать скидки?

Не должен. Цена и условия остаются за человеком или за правилами системы.

Как избежать выдуманных характеристик?

Ограничить ответ данными карточек и запретить общие знания модели.

Что передавать оператору?

Всю историю диалога и разобранную задачу, чтобы клиент не повторялся.