Если AI-ассистент ошибётся: где граница ответственности

Правильный вопрос — не «он не ошибётся?», а «где граница и кто страхует»

Когда бизнес всерьёз рассматривает ассистента, рано или поздно звучит один и тот же вопрос: а что, если он ошибётся? Скажет не то, пообещает не то, неправильно поймёт клиента. Вопрос абсолютно нормальный — любой инструмент, который общается с клиентами от лица компании, обязан быть проверен на то, как он ведёт себя в нештатной ситуации.

По ответу на этот вопрос сразу видно, с кем вы разговариваете. Три позиции:

• «У нас он никогда не ошибается» — продавец, которому веры нет: так не бывает;
• «Давайте не будем про ошибки, авось обойдётся» — несерьёзно, риск просто спрятан;
• «Вот что ассистент решает сам, вот что он отдаёт человеку, вот как мы это страхуем» — взрослый разговор.

Обсуждать имеет смысл только третий вариант. Ответственность держится не на лозунге «он не подведёт», а на том, как проведена граница его работы и что происходит на этой границе. Дальше — конкретно по зонам.

Ассистент берёт свой сильный слой, а не «заменяет всех»

Первая развилка возражения — в самой постановке. Опасность возникает там, где продукт обещает заменить человека в любой точке коммуникации. Это звучит мощно, но почти всегда создаёт неверные ожидания: если ассистент «должен уметь всё», значит, ему отдают и то, что отдавать нельзя, — и вот там и появляется настоящий риск.

Зрелый продукт устроен иначе. Он не пытается подменить человека везде, а берёт на себя тот слой коммуникации, который действительно можно и нужно автоматизировать: повторяющиеся вопросы, первичную консультацию, объяснение базовых условий, навигацию, поддержку диалога до следующего шага — например, до записи или оформления заявки. Здесь ассистент силён, потому что вопросы типовые, описанные и проверенные.

Но есть зоны, где человек нужен обязательно: сложные нестандартные случаи, чувствительные ситуации, переговоры с высоким контекстом, решения, где требуется личная ответственность. Здесь ассистент не должен изображать всезнание и любой ценой удерживать разговор у себя. Правильная логика автоматизации звучит не «ассистент должен уметь всё», а «ассистент должен уметь всё, что можно качественно и безопасно взять на себя, и честно отдавать человеку то, что требует человека». Именно эта зрелость границ, а не громкое обещание тотальной замены, и снижает риск.

Уверенная зона — это ваша база знаний

Ассистент уверенно отвечает там, где у него есть материалы компании: услуги, цены, расписание, условия работы, состав предложения, контакты, способы оплаты, типичные ситуации клиентов. Всё, что многократно описано, он рассказывает корректно и в едином тоне, потому что не сочиняет ответы из общего опыта, а опирается на вашу базу знаний. Механику того, как ассистент вообще узнаёт ваш бизнес, мы разбираем отдельно — как ассистент начинает знать вашу компанию.

Написано в базе, что приём до девяти вечера, — он скажет ровно это. Указано, что доставка на следующий день, — не предложит «попробовать сегодня». Граница того, что он знает, совпадает с границей того, что вы ему рассказали. Именно поэтому в типовых сценариях он уверен: они описаны, проверены и обновляются. И именно поэтому его ответы предсказуемы — это не импровизация, а озвучивание ваших же правил.

Три зоны, где ассистент всегда зовёт человека

Есть три класса вопросов, в которых ассистент не принимает решение в одиночку. Это не недоработка продукта, а сознательная конструкция безопасности.

Платежи и финансовые операции. Рассказать о способах оплаты, тарифах, о том, как получить счёт, — да. Списать деньги, провести возврат, изменить статус оплаты — только с участием человека или через интеграцию с финансовой системой. Никакой автоматический ответ не должен превращаться в финансовое действие без подтверждения. Именно поэтому обещание «мы вернём вам деньги» ассистент не выдаёт сам — он передаёт вопрос туда, где за него могут ответить.

Юридически значимые ответы. Когда вопрос затрагивает обязательства, гарантии, спорные условия договора, ответ даёт тот, у кого есть на это полномочия. Ассистент сошлётся на оферту и политику возвратов, но не выдаст обещание от лица компании в неоднозначной ситуации. Отдельная чувствительная тема — персональные данные и рассылки: где ассистенту можно писать клиенту, а где нужна отдельная процедура, разбираем в материале про AI-рассылки и 152-ФЗ.

Экспертные диагнозы. В медицине, юриспруденции, финансовом консалтинге ассистент работает навигатором по информации, а не тем, кто ставит диагноз и принимает решение за специалиста. Он поможет разобраться в услугах и записаться к нужному врачу, но не назначит схему лечения.

Эти три зоны всегда уходят к человеку. В этом и есть страховка: риск не в том, что ассистент «может ошибиться вообще», а в том, отдали ли ему то, что отдавать нельзя. В зрелом продукте — не отдали.

Границы — это три списка тем, а не магия

Границы ответственности — это не тонкая настройка «интеллекта», а понятные списки. Бизнес задаёт три зоны: темы, на которые ассистент отвечает свободно; темы, где он зовёт оператора; темы, в которые вообще не вступает. Правила задаются один раз и дополняются по мере опыта.

В базе знаний явно проговаривается, чего ассистент не делает: «не консультирует по индивидуальным спорам», «не подтверждает оплату без проверки в системе», «не назначает схемы лечения», «не согласовывает индивидуальные условия сделки». На эти формулировки он и опирается в спорных случаях — граница отрисована уверенно, а не «вдруг повезёт». Здесь важно понимать: чем полнее база знаний, тем меньше остаётся ситуаций, где ассистенту приходится действовать на ощупь. Регулярное обновление материалов — базовая гигиена безопасности, ровно как и понятный резервный путь клиента к живому человеку.

Как ассистент понимает, что пора передать человеку

Раз передача человеку — ключевая страховка, важно, чтобы ассистент сам умел честно поднять руку и сказать «здесь нужен человек», а не цеплялся за разговор любой ценой. Сигналов несколько, и работают они одновременно.

• Прямой запрос. Клиент написал «соедините с человеком», «позовите менеджера». Это не повод для уточнений — это повод сразу передать.
• Стоп-темы. Жалоба, возврат, претензия, юридический вопрос, нестандартная ситуация. Разговор уходит в зону, где автоматический ответ неуместен, — ассистент передаёт.
• Тон. Клиент раздражён, повторяет вопрос второй раз, пишет резко. Ассистент не делает вид, что всё хорошо, — он передаёт, пока ситуация не обострилась.
• Собственная неуверенность. Вопрос выходит за пределы базы знаний или требует личной ответственности — ассистент не угадывает, а передаёт.
• Особые шаги сценария. Крупная сделка, сложное согласование, индивидуальные условия — здесь передача заложена в сценарий заранее.

Во всех случаях ассистент не молчит и не делает вид, что разговор оборвался. Он коротко сообщает клиенту: «передаю разговор сотруднику, он подключится» — и помечает диалог как требующий внимания. Для клиента это выглядит как нормальный сервис: его не бросили, его передали тому, кто разберётся.

Что видит оператор в момент подключения

Главное правило сильной передачи: сотрудник не должен заново разбираться в ситуации. Когда оператор открывает диалог, перед ним — полная история переписки: что спрашивал клиент, как отвечал ассистент, на каком шаге остановились, что уже выяснили. Если клиент оставил заявку или прошёл часть формы — видны собранные поля. Если ассистент отвечал по базе знаний — видно, какими материалами он пользовался.

Рядом — та же база знаний, к которой обращался ассистент: оператор проверяет факты, а не выдумывает ответ из головы. Это особенно важно для команд из нескольких сотрудников — разные люди отвечают одинаково, потому что опираются на один источник; как это устроено при нескольких операторах и разделении данных, разбираем в материале про сеть на одном ассистенте без путаницы данных. Сам ассистент при этом не исчезает — он остаётся в фоне помощником оператора: подскажет формулировку, найдёт материал, подготовит черновик. Клиент видит обычное продолжение разговора, без обрывов и повторных «расскажите ещё раз, что случилось».

Как ассистент возвращается обратно

Здесь часто допускают ошибку: считают, что если человек один раз подключился, весь дальнейший разговор уже на нём. Это перегружает команду и обесценивает автоматизацию. В сильной системе оператор может явно вернуть диалог ассистенту: закрыл сложный момент — отпустил. Клиент жаловался на возврат, сотрудник разобрался, дальше остались обычные вопросы по записи или оплате — оператор возвращает диалог, ассистент подхватывает, история сохранена, контекст не теряется.

То же при завершении: сотрудник отметил, что вопрос закрыт, — диалог уходит в архив. Напишет клиент снова — ассистент стартует с учётом всей предыдущей истории, а не с нуля. Именно эта аккуратная механика «передал — подхватил — вернул» превращает автоматизацию в реальную разгрузку команды, а не в имитацию.

Лог диалогов — архив и инструмент развития

Любой диалог сохраняется и доступен бизнесу. Руководитель в любой момент открывает переписку и видит, как ассистент ответил, где передал клиента человеку, что именно спросил клиент. По логу видно, какие вопросы возникают чаще, где ассистенту не хватило материалов, — и база знаний дополняется, а ассистент становится точнее с каждой неделей. Кто и где хранит эти записи, кто имеет к ним доступ — отдельный важный вопрос безопасности; про серверы РФ и 152-ФЗ — в разборе где хранятся данные клиентов.

Это меняет саму природу ошибки. В обычной коммуникации ошибка сотрудника часто остаётся невидимой — сказал не то по телефону, и следа нет. В ассистенте каждая нештатная ситуация — конкретная запись, к которой можно вернуться, разобрать и не допустить повторения. Ошибка перестаёт быть случайностью и становится материалом для улучшения.

Самый большой риск — не ответ ассистента, а молчание

Парадокс возражения «а вдруг ошибётся» в том, что главный риск в поддержке создаёт не ассистент, а тишина. Клиент пишет и не получает ответа час, вечер, выходные — это и есть настоящая ошибка, только без виновного. Никто ничего не сказал, не пообещал, не перепутал — просто никто не ответил, и клиент ушёл к тем, кто отвечает. В логах этого не видно, потому что фиксировать было нечего.

С ассистентом таких невидимых потерь резко меньше. Ответ приходит сразу и в любое время. Не уверен — передаёт человеку. Что-то пошло не так — видно в логе, можно поправить. Выбор в реальности стоит не между «идеальный ассистент» и «идеальный сотрудник», а между «быстрый ответ с прописанной границей и полным логом» и «молчание, которое никто не заметил».

Как настроить границы ассистента за день

Порядок простой, без программиста:

1. Загрузите базу знаний — услуги, цены, условия, расписание, способы оплаты, ответы на типовые ситуации. Это уверенная зона: чем полнее материалы, тем меньше догадок.
2. Пропишите три списка тем — на что ассистент отвечает свободно, где зовёт оператора, куда не вступает вовсе. Возврат денег, споры по договору, медицинские и юридические советы — сразу в зону передачи человеку.
3. Настройте правила передачи — по прямому запросу, стоп-темам и тону: куда уходит диалог (отдел продаж, поддержка, очередь на утро) и кто получает уведомление.
4. Проверьте в демо — задайте неудобные вопросы: попросите вернуть деньги, спросите медицинский совет, надавите резким тоном. Убедитесь, что ассистент не выдумывает обещаний, а спокойно передаёт диалог человеку с полным контекстом.
5. Раз в неделю смотрите логи — несколько диалогов, где ассистент передавал или сомневался. Дополняйте базу знаний и уточняйте границы. За месяц ассистент закрывает заметно больше сам, а к человеку уходит только то, что действительно требует человека.