Анна Романова, ВШМ СПбГУ: Автономные агенты в налоговой сфере: стратегия внедрения и границы ответственности

Термин «налоговый агент» хорошо знаком каждому, однако понятие «автономный агент» пока остаётся за рамками повседневного дискурса, хотя именно этим алгоритмам, как показывают мировые тренды, принадлежит будущее налогового администрирования и корпоративного финансового управления.

Будущее уже наступило, пусть и распределилось неравномерно, но оно неуклонно проникает в нашу профессиональную реальность.

Чтобы разобраться в сути явления, стоит начать с базового определения.

Большая языковая модель, такая как ChatGPT, является по своей природе сугубо текстовым инструментом: она генерирует слова, но не способна самостоятельно совершать действия в цифровой или физической среде. Именно поэтому современные разработчики предоставляют таким моделям возможность вызывать внешние инструменты – небольшие специализированные программы, которые могут заказать билеты, совершить покупку в интернет-магазине или собрать информацию из сети. Объединение «мозга» в виде языковой модели с набором таких утилит и порождает архитектуру автономного агента.

В налоговой функции эти системы уже начинают заявлять о себе. Мы наблюдаем закономерное смещение уровней управления: от жёстких систем, основанных на фиксированных правилах, через предиктивную аналитику и чат-ботов в роли co-pilot – к полноценным автономным агентам, где в качестве центрального процессора выступает большая языковая модель, а окружающие её инструменты заточены под решение конкретных налоговых задач.

Ключевые свойства автономных агентов

Прежде чем переходить к внедрению, необходимо чётко осознавать фундаментальные характеристики этих систем, которые отличают их от традиционных детерминированных программ.

Во-первых, это непрерывность работы. В отличие от привычных команд, здесь заданный вопрос запускает процесс, который будет продолжаться до тех пор, пока агент не найдёт решение, если только пользователь намеренно не прервёт его выполнение.

Во-вторых, агенты обладают определённой свободой выбора. Классические бухгалтерские системы детерминированы – мы задаём правила, и они неукоснительно следуют им. В случае с большими языковыми моделями мы переходим на вероятностную математику, и система самостоятельно определяет оптимальный способ достижения результата, подобно тому, как Алиса или Гигачат выстраивают ответ, «размышляя» над запросом.

В-третьих, каждый агент нацелен на выполнение поставленной перед ним задачи. Однако здесь кроется серьёзный вызов: цель, существующая в нашем сознании, цель, которую мы формулируем вербально, и цель, которую фактически интерпретирует модель, могут существенно различаться. Это расхождение требует постоянного контроля и осмысления на всех этапах жизненного цикла агента.

Кто отвечает за ошибки ИИ?

Технология работает, и работает впечатляюще, но правовое поле и этические нормы, как это часто бывает, отстают от темпов научно-технического прогресса. И здесь возникает ключевой вопрос, на который пока нет однозначного ответа в большинстве юрисдикций: кто несёт ответственность за последствия действий автономного агента?

Важно подчеркнуть: передачи полномочий искусственному интеллекту не происходит. Вспомним дискуссию, сопровождавшую принятие Европейским союзом Акта об искусственном интеллекте: предлагалось ввести понятие «электронного лица» с определённой правосубъектностью, однако эта идея была отвергнута. Единственным прецедентом остаётся курьёзный случай с роботом Софией, которой было присвоено гражданство Саудовской Аравии, но мировое юридическое сообщество восприняло это как казус, не имеющий системного значения.

На сегодняшний день искусственный интеллект повсеместно трактуется как программное обеспечение, а значит, ответственность лежит либо на разработчике (в случае ошибки в коде), либо на пользователе (при некорректном применении). Переложить свои риски на алгоритм невозможно.

Наиболее наглядный и драматичный пример – голландский кейс с системой автоматизированного назначения пособий. Искусственный интеллект маркировал семьи иммигрантов с двойным гражданством как потенциальных мошенников. Последствия оказались катастрофическими: отставка правительства и, что ещё тяжелее, изъятие около двух тысяч детей из семей, попавших под «красную метку» алгоритма.

Почему же я полагаю, что в налоговой сфере внедрение подобных технологий может пройти менее болезненно?

Дело в том, что наиболее резонансные ошибки ИИ до сих пор были связаны с нарушением прав уязвимых групп населения – меньшинств, расовых групп в судебной системе. Налогоплательщики, особенно крупные корпорации, обладают ресурсами для найма экспертов и оспаривания решений, что создаёт естественный сдерживающий фактор и стимулирует разработчиков к более тщательной проработке алгоритмов.

Практические подходы к внедрению

Переходя от теории к практике, стоит обратить внимание на уже сложившиеся методики, среди которых особенно выделяется создание так называемого паспорта автономного агента. Этот документ должен фиксировать несколько критических параметров.

Прежде всего, необходимо чётко определить роль агента и его конкретную функцию. Если архитектура ещё не прошла всестороннего тестирования, разумно установить минимальные лимиты по суммам операций, ограничить доступ к ERP-системам и задать низкие пороги эскалации, при которых управление передаётся человеку.

Целевая функция также должна быть строго специфицирована: оптимизация прибыли, улучшение кредитного рейтинга или любой другой измеримый показатель. Пока мы создаём узкоспециализированных агентов, а не универсальных помощников, поэтому формулировка цели должна быть максимально однозначной, чтобы избежать ситуации «пойди туда, не знаю куда».

Не менее важно прописать механизмы получения и передачи данных, а также процедуры экстренной остановки и эскалации.

На глобальном рынке первые шаги уже сделаны: косвенные налоги оказались наиболее подготовленными к автоматизации такого уровня, тогда как прямые налоги и судебные споры (litigation) пока отстают в силу большей сложности и неопределённости. Крупнейшие консалтинговые сети (Big4), несмотря на уход из России, активно внедряют автономных агентов для своих клиентов по всему миру, и этот процесс набирает обороты.

Распределение ответственности и документальная дисциплина

Российские налоговые органы также активно используют искусственный интеллект, и они, как и налогоплательщики, не могут переложить свои обязанности на алгоритм. С юридической точки зрения искусственный интеллект сродни «прозрачному лицу» (по аналогии с партнёрствами в международном налогообложении), за которым всегда стоит реальный владелец или оператор.

Интересна судебная практика последних лет: в некоторых юрисдикциях советы, сгенерированные налоговым ПО на основе ИИ, начинают приравнивать к консультациям квалифицированного специалиста. Это может смягчить ответственность налогоплательщика в суде, если он действовал на основании таких рекомендаций. Однако здесь нужно помнить о галлюцинациях – вероятностная природа моделей не гарантирует точности, и поэтому полагаться на них безоговорочно нельзя.

Мой главный тезис: прежде чем запускать агента в продуктивную среду, необходимо создать матрицу ответственности. В ней следует закрепить, кто формулирует цель агента, кто устанавливает лимиты, кто наблюдает за его поведением и, наконец, кто отвечает перед регулятором. Это может быть отдельный сотрудник, департамент или техническая служба, но назначение ответственных должно быть задокументировано.

Я настоятельно рекомендую не поддаваться на заверения IT-отделов или вендоров, утверждающих, что система «всё делает сама» и не требует вмешательства. Без полного пакета документации, включая схемы контроля, алгоритмы отката и экстренной остановки, выводить агента в продакшн недопустимо. Даже если речь идёт об известном и уважаемом поставщике, необходимо требовать письменных подтверждений и обоснований каждого архитектурного решения.

Машинная скорость и проблема дрейфа моделей

Автономные агенты функционируют на скорости, недоступной человеку. Если раньше вы поручали исследование младшему специалисту и получали результат на следующий день, то теперь агент выдаст ответ в течение нескольких минут. Это кардинально меняет ритм работы: у руководителя больше нет временного люфта для обдумывания, согласований с юристами или запроса разъяснений от Минфина. В связи с этим специалисты по безопасности уже рекомендуют вводить технологические паузы для принятия решений, чтобы человек успевал осмыслить поступающую информацию.

Кроме того, следует учитывать фундаментальную нестабильность больших языковых моделей, которая проявляется в виде дрейфа. В отличие от классических ERP-систем, где правила жёстко зафиксированы, языковые модели подвержены изменениям поведения с течением времени.

Можно выделить несколько типов дрейфа:

Все эти факторы делают регулярный контроль и переаттестацию агентов обязательным элементом эксплуатации.

Стратегия поэтапного внедрения

Рано или поздно перед каждой крупной компанией встанет выбор архитектуры управления автономными агентами: централизованная, распределённая по бизнес-направлениям или гибридная. Этот выбор должен быть осознанным и задокументированным.

Я рекомендую начинать с диагностики: выбрать наиболее простой и понятный участок налоговой функции, реализовать пилотный проект, протестировать его в ограниченном объёме, ощутить механику работы «руками» и лишь затем масштабировать решение. Не следует передавать агенту необратимые решения на начальных этапах. И, что крайне важно, не стоит рассчитывать, что вендор покроет ваши штрафные санкции в случае ошибок – если вы утвердили внедрение, вся полнота ответственности остаётся внутри вашей организации.

Резюмируя: автономные агенты – это мощный, неизбежный и перспективный инструмент, но обращение с ним требует новой дисциплины, документальной скрупулёзности и уважения к человеческому фактору. Технологии не отменяют ответственности, они лишь перераспределяют её, и наша задача – управлять этим процессом осознанно.

Анна Романова, лектор, ВШМ СПбГУ