В первой статье цикла мы разобрали, где вообще искать применение агенту: от показателя уровня компании через процессный показатель к киллер-метрике, как отсечь ложные цели применения агентов (они могут появиться и после просмотра безукоризненно выглядящих презентаций компаний-разработчиков). Но найти точку применения – лишь начало. Основная работа – сделать так, чтобы пилот не прекратил существование через три месяца, а это происходит не из-за слабой ИИ-модели, а из-за отсутствия трёх документов и одного принципа. В материалах этого цикла мы разберем эти документы: паспорт агента, паспорт данных, матрицу решений. А центральный принцип проектирования, о котором пойдет речь, называется zero-based design.
Эту статью имеет смысл прочитать как минимум, чтобы быть лучше готовым ко встрече с теми, кто предложит «завайбкодить первого агента за полчаса», а еще лучше «сразу запустить в процессы компании». Необходимо подготовиться, снять часть рисков, а главное – понять, что некоторые решения, которые необходимо принять, запуская агента, носят не технический, а управленческий характер.
Zero-based design: спросите «зачем», прежде чем перейти к «как»
ИИ-трансформация отличается от реинжиниринга и оптимизации не инструментами, а центральным вопросом. Реинжиниринг спрашивает: «Как переделать существующий процесс, чтобы он стал быстрее и дешевле?» Оптимизация: «Как убрать узкие места в том, что есть?» ИИ‑трансформация ставит другой вопрос: «Нужен ли этот процесс вообще, если агент работает в данных о компании, клиентах и внешнего мира и может решить задачу совсем по-другому?»
Разница принципиальная. Реинжиниринг и оптимизация работают внутри существующей архитектуры процессов. ИИ-трансформация ставит под вопрос саму архитектуру. Допустим, компания тратит 40 часов в месяц на сводный отчёт для совета директоров. При реинжиниринге подход состоит в автоматизации сбора данных. Метод оптимизации – убрать двойной ввод. В рамках ИИ‑трансформации зададимся вопросом: «А если бы мы проектировали управление компанией с нуля, нужен ли нам этот отчёт в текущем виде? Или агент, отвечающий на вопросы CEO и членов СД в реальном времени, сделает отчёт ненужным, а принятие решений качественно ускорит?»
Еще одно отличие: реинжиниринг ускоряет работу людей, ИИ-трансформация переносит часть решений от людей к агентам. Это не просто «быстрее», а принципиально иное распределение работы.
Третье: реинжиниринг проектируется заранее и внедряется по плану, ИИ‑трансформация развивается поэтапно: волнами от пилотов с измеримым результатом к масштабированию.
На практике принцип удобно применять как фильтр из трёх вопросов.
Первый: «Эта задача для человека вообще нужна, или она существует только потому, что раньше не было агента?» Пример: служба безопасности проверяет контрагентов вручную. Вопрос: «А если бы мы нанимали сотрудника сегодня, мы бы наняли на эту работу человека или агента?» Ответ не всегда будет «агент». Но вопрос помогает увидеть, что текущий процесс – не догма.
Второй: «Нужно ли делать работу на текущем уровне управления, или агент позволяет спустить решение ниже по иерархии?» Пример: руководитель отдела продаж утверждает скидки. Вопрос: «Можно ли доверить агенту принятие этого решения в рамках лимитов, а руководителю следить только за отклонениями?»
Третий: «Можно ли заменить периодический отчёт непрерывным мониторингом?» Пример: еженедельный отчёт по рискам для CFO. Вопрос: «Если CFO может спросить агента в любой момент, какие риски выросли за последние 48 часов, зачем откладывать до пятницы?»
Zero-based design – это не призыв ломать всё, а фильтр против автоматизации ради автоматизации. Если процесс проходит три фильтра, применяем к нему ИИ. Причем с гораздо лучшим пониманием, как это сделать и не тратить ресурсы на ускорение того, что должно исчезнуть.
Это непрерывная практика, а не разовый «подход к снаряду». Правильный подход – регулярно возвращаться к вопросу «зачем» на ежеквартальном мониторинге. Телеметрия (аналитика работы агентов) показывает, что они решают задачу стабильно, и архитектор задаётся вопросом: «Изменился ли ответ на вопрос, нужен ли процесс вообще?» Пример: агент стабильно готовит проекты ответов на запросы клиентов. Вопрос: «Не пора ли перестать готовить проекты и привлекать человека, а дать агенту отправлять ответы в рамках лимитов?» Без регулярной практики возврата к вопросам-фильтрам zero-based design превращается в лозунг.
Личный опыт автора: ИИ‑агент‑архитектор применяет zero‑based design: он проектирует с чистого листа, без оглядки на прошлые процессы и политический ландшафт организации. Так сценарии применения ИИ прорабатываются гораздо быстрее.
Паспорт агента: аналог трудового договора вместо технического задания
Техническое задание описывает систему: входы, выходы, интерфейсы. Паспорт описывает роль: ответственность, полномочия, ограничения. Агент – это не просто система, которую запускают, поддерживают, донастраивают, а скорее сотрудник, которого нанимают, обучают, контролируют и, при необходимости, увольняют. ТЗ фиксирует требования на момент составления и не даёт ответа на вопрос: «Кто отвечает, если агент ошибётся?». А паспорт дает.
Для специалистов без глубокой технической подготовки по проектированию агентов предложу девять полей паспорта с критериями корректности заполнения. Язык обычный, управленческий.
1. Имя и роль. Одна фраза, понятная руководителю процесса: «Агент подготовки КП для сегмента С», не «ИИ-ассистент продаж». Критерий: если роль нельзя описать одной фразой, вы не понимаете, кого нанимаете и для чего.
2. Владелец. Конкретный человек с именем и полномочиями разрабатывать и менять паспорт. Критерий: именно он придёт на еженедельный разбор и сможет принять решение о корректировке паспорта, а не «согласовать с руководством». Важно документально разграничить роли владельца процесса (отвечает за результат) и владельца агента (отвечает за работоспособность, настройку, метрики) – это разные области ответственности.
3. Зона ответственности. Три списка: что агент решает сам, что представляет к подтверждению, о чем только информирует. Критерий: не должно быть «белых пятен», для каждой задачи из его области есть ответы по этим трем пунктам.
4. Доступ к данным. Перечень источников со ссылками на паспорта данных. Критерий: агент имеет доступ ровно к тем данным, которые необходимы, журналирование обращений включено.
5. Полномочия и лимиты. Что может без человека: отправить черновик, но не письмо; подготовить платёж, но не провести. Лимиты включают суммы, временные рамки и количество попыток. Критерий: любое значимое действие должно быть обратимым, а его логика – прозрачной для аудита.
6. Точки подтверждения. Конкретные шаги, где агент останавливается. Критерий: для любого необратимого действия должна быть предусмотрена точка контроля, где агента остановят до того, как это станет проблемой.
7. Киллер-метрика и цель. Формат из прошлой статьи: «X с N до M за T, эффект в деньгах Y». Критерий: динамика метрики за три месяца должна укладываться в целевые показатели, заявленные на старте.
8. Ритуал принятия решений. Куда направляются результаты работы агента, кто их рассматривает, как часто. Если агент предложит скорректировать цену, кто, как и по какой процедуре эти решения авторизует (подробнее о матрице решений в следующем материале этого блога).
9. Обратимость. Сценарий отката для каждого действия из поля 5. Критерий: можем за один день вернуть всё, как было до действия агента.
Какие могут быть ошибки:
-
Если у агента нет владельца, ответственность размывается, и участники процесса перекладывают её друг на друга.
-
Паспорт без метрики: через три месяца работы агента директор по финансам спрашивает: «Зачем мы за это платим?». И никто не может дать объяснения.
-
Если не определены точки подтверждения, агент может выполнить недопустимое действие: существует риск первого серьёзного ущерба, проект будет закрыт, а доверие потеряно необратимо.
Дополнительно в паспорте фиксируются границы полномочий (что агент не делает никогда, даже если попросят), событие-запуск (по расписанию, по событию, по запросу) и процедура отключения: кто и как останавливает агента. Если на эти пункты нет ответа, агент не запускается.
Паспорт данных: допуск к работе с данными
Агент с плохими (неполными, некачественными, несвоевременными) данными уверенно врёт. Модель не осознаёт, что данных недостаточно, и делает вывод на основе того, что есть. Паспорт данных дополняет паспорт агента в части: «Эти данные мы ему предоставили. Вот как он может их использовать, а где ему нужно спрашивать человека». Без паспорта данных нет основания для разграничения доступа, изоляции и журналирования: юрист не подпишет, ИБ не пропустит и будут правы.
Шесть обязательных полей:
- Источник и владелец. Название, место хранения, конкретный человек с полномочиями отвечает за качество. Критерий: если данные неверны, известно, кто отвечает.
- Содержание и актуальность. Что содержится, как часто обновляется, какова задержка между событием и отражением в данных. Критерий: данные описывают сегодняшний день, а не прошлый квартал.
- Качество. Полнота, дубли, формат, связность. Мы понимаем, насколько агент рискует ошибиться, делая вывод на этих данных.
- Правовой статус. Персональные данные, коммерческая тайна, NDA. Через эту призму принимаем решение, давать ли агенту доступ.
- Режим и способ доступа агента к данным. Ведется журналирование: что, когда, какой агент запрашивал. Критерий: можем восстановить, что агент видел в конкретный момент.
- Уровень готовности данных к применению и динамика. Текущий уровень готовности данных (шкала дана ниже), дата оценки, критерий перехода на уровень выше. Фильтр: известно, что необходимо сделать, чтобы повысить уровень.
Шкала готовности служит защитой от построения агента, который будет парализован с первой минуты.
- Уровень 0: данные существуют только в головах людей – нанимать агента нельзя: сначала нужно определить их владельца и точки подтверждения.
- Уровень 1: разрозненные документы без владельца – агента не строим, сначала назначить владельца и выделить минимально необходимый объём.
- Уровень 2: структурированные источники с владельцем. В этом случае можно строить агента с точками подтверждения.
- Уровень 3: данные подтвержденного качества и обновляются онлайн: можно поэтапно расширять автономию агента. Ключевое правило: проблему недостатка данных решают не длительной «чисткой всего массива», а назначением владельца и точек подтверждения.
Таким образом, качество паспорта данных определяет предел автономии агента.
Три ложных пути:
-
«Сначала два года будем чистить данные, а потом начнём» – два года затрат, ноль результата; правильно будет начать с минимально необходимого для первого агента объёма, телеметрия покажет, что чистить дальше.
-
Создание RAG‑свалки (плохо организованная база документов или данных – прим. ред.) до старта приведёт к появлению неиспользуемой базы знаний, которую никто не поддерживает – это мёртвый вес. Вместо этого нужны источник, владелец, актуальность, иначе не включаем.
-
Доступ агента ко всему «на всякий случай» – риск, который справедливо не одобрит ИБ. Предоставляем минимально необходимый доступ, делаем журналирование обращений. Снова используем аналогию с сотрудниками: к ним мы также применяем принцип разграничения данных, верно?
Типичные риски и ошибки
Паспорт агента без владельца и паспорт данных без ответственного за качество – это не два пробела, а один и тот же организационный дефект: у агента нет человека, который отвечает за результат. Руководство узнает об этом не на старте, а в момент первого сбоя, когда выясняется, что решение принимал «ИИ», а отвечать некому. Отсюда и типичный исход: пилот сворачивают не потому, что модель плоха, а потому, что утрачено доверие.
Паспорт без метрики даёт другой сценарий: агент работает, бюджет расходуется, а на вопрос «За что мы платим» ответа нет, и следующий пилот уже не согласуют.
В этой части цикла мы разобрали принцип zero-based design и два первых документа: паспорт агента и паспорт данных. В следующей части поговорим о матрице решений: как распределить полномочия между человеком и агентом, где споткнётся агент из-за неявного знания, и что организационно меняется в компании, когда у сотрудников появляются агенты.
Павел Потеев, эксперт по ИИ- и организационной трансформации.
Наши конференции: