Как безопасно внедрять ИИ-агентов в клиентскую поддержку: опыт Notch

Когда речь заходит об ИИ в клиентской поддержке, большинство компаний имеют в виду чат-бота, который отвечает на типовые вопросы и при малейшей сложности переключает на живого оператора. Это удобно, но не слишком эффективно: пользователь всё равно ждёт человека, а большинство обращений так и не решаются автоматически.

Стартап Notch пошёл дальше. Их ИИ-агенты не просто отвечают – они действуют: оформляют возвраты, вносят изменения в аккаунты, запускают внутренние процессы. Проще говоря, делают то, что раньше требовало участия сотрудника. И делают это в отраслях, где цена ошибки высока: страхование, финансы, государственные сервисы.

Отличия ИИ-агента от чат-бота

Не чат-бот, а агент

Разница между обычным чат-ботом и агентом принципиальна. Чат-бот отвечает на вопрос. Агент – выполняет задачу от начала до конца, включая все необходимые для этого шаги: уточнить данные, проверить условия, обратиться к нужной системе, зафиксировать результат.

Именно на этой идее построена платформа Notch. Компания называет свой подход TRUE™ Resolution – аббревиатура расшифровывается как «Ticket Resolved, Unmanned, End-to-end» («обращение решено, без участия человека, от начала до конца»). Оплата происходит только за полностью закрытые обращения – не за ответы, не за переписку, а за реальный результат.

По данным самой компании, с начала работы в 2024 году Notch закрыл более 10 миллионов обращений для более чем 30 корпоративных клиентов, достигая до 87% автономного решения тикетов и сокращая затраты на поддержку более чем вдвое.

Безопасность ИИ-агента и риски ошибок

Главная проблема: агент, который может ошибиться

Когда ИИ просто отвечает – ошибка неприятна, но поправима. Когда ИИ действует – ошибка может стоить денег, репутации или привести к нарушению регуляторных требований. Именно поэтому вопрос безопасности для Notch стал центральным с самого начала.

Задача не в том, чтобы ограничить агента до минимума – тогда он теряет смысл. Задача в том, чтобы он действовал уверенно там, где это безопасно, и корректно останавливался там, где требуется вмешательство человека.

Многоуровневая система защиты ИИ-агентов

Как устроена защита: слои, а не один барьер

Notch использует многоуровневую систему контроля – не один фильтр, а несколько независимых механизмов, которые работают параллельно и подстраховывают друг друга.

Агент знает границы своих полномочий

Каждое действие, которое может совершить агент, заранее описано и ограничено. Он не может сделать то, что не разрешено явно. Это похоже на то, как новый сотрудник работает строго по инструкции, пока не получит расширенный доступ.

Решения проверяются перед исполнением

Прежде чем агент совершит действие с реальными последствиями – например, выдаст возврат – его решение проходит внутреннюю проверку. Это не замедляет процесс заметно, но добавляет дополнительный барьер перед ошибкой.

Эскалация – не провал, а часть системы

Если агент сталкивается с ситуацией, которая выходит за пределы его компетенции, он не пытается решить её «как умеет» – он передаёт обращение человеку. При этом передаёт с полным контекстом: что спросил пользователь, что агент уже выяснил, почему принял решение об эскалации.

Это важный момент: в большинстве систем эскалация выглядит как сброс – пользователь снова объясняет всё с нуля. У Notch оператор получает готовую картину и может сразу работать по существу.

Все действия фиксируются

Каждый шаг агента записывается: что было запрошено, какое решение принято, почему. Это нужно не только для отладки, но и для соответствия регуляторным требованиям – в страховании или финансах компании обязаны объяснять, почему было принято то или иное решение.

Инфраструктура на Azure для ИИ-агентов

Инфраструктура: почему Azure

Notch строит свою платформу на базе Microsoft Azure – и это не случайный выбор. Для работы в регулируемых отраслях важна не только техническая надёжность, но и соответствие стандартам безопасности и хранения данных. Azure предоставляет необходимые сертификации и инструменты, которые позволяют Notch работать с клиентами в страховании, государственном секторе и других чувствительных областях.

Кроме того, Azure позволяет масштабировать нагрузку без перестройки архитектуры – когда один клиент генерирует тысячи обращений в день, система должна справляться без деградации.

Уроки для рынка от применения ИИ-агентов

Чему это учит рынок

История Notch интересна не только как кейс конкретного стартапа. Она показывает, как в принципе можно подходить к построению агентных систем в условиях реальных ограничений.

Долгое время в индустрии существовал негласный компромисс: чем больше автономии у ИИ – тем выше риск. Значит, либо мы ограничиваем агента и теряем пользу, либо даём ему свободу и принимаем риски. Notch демонстрирует, что этот выбор не обязательно бинарный.

Многоуровневый контроль, чёткие полномочия, прозрачная эскалация и аудируемые действия – всё это позволяет строить системы, которые действуют автономно, но предсказуемо. И именно предсказуемость, а не ограниченность, становится ключевым свойством надёжного агента.

Актуальные вопросы развития ИИ-агентов

Открытые вопросы

При всём этом ряд вопросов остаётся открытым. Насколько хорошо подобные системы работают в действительно нестандартных ситуациях – тех, которые не были предусмотрены при проектировании? Как агент ведёт себя, когда пользователь намеренно пытается обойти ограничения? И как со временем меняется качество решений по мере накопления реальных данных?

Это не риторические вопросы. Именно от ответов на них будет зависеть, насколько широко агентные системы смогут распространиться в регулируемых отраслях в ближайшие годы.

Пока Notch – один из немногих публичных примеров того, как стартап прошёл этот путь не в лабораторных условиях, а в реальной боевой среде. И уже по этой причине их опыт стоит изучать – вне зависимости от того, строите ли вы что-то похожее или просто следите за тем, куда движется отрасль.

Подробнее о подходе компании можно узнать на notch.cx.