Андрей Иванов, независимый эксперт: Искусственный интеллект в финансах. Почему решение за человеком?

Когда речь заходит о применении ИИ в финансовом планировании, есть желание представить себе прекрасную картину: берутся неструктурированные мысли, грузятся в современную языковую модель – и на выходе вы получаете презентацию и финансовую модель выдающегося качества.

Признаться, изначально мне хотелось именно такой схемы взаимодействия. Однако реальность, как обычно, оказалась сложнее: мысли не оформлялись в тезисы, а красивая модель и картинка требовали внимательного рассмотрения и адаптации на практике. Именно об этом я и хочу рассказать.

Где ИИ полезен, а где требует осторожности

Для начала обратимся к цифрам. Специалисты компании Anthropic (американская технологическая компания в сфере искусственного интеллекта, основанная бывшими сотрудниками OpenAI) проанализировали потенциал замещения человеческого труда искусственным интеллектом по различным направлениям. В сфере бизнеса и финансов ИИ теоретически способен заменить до 95% функций. На первый взгляд, это выглядит как приговор для финансовых директоров: казалось бы, пора им по образцу О. Бендера переквалифицироваться в ремонтников или фермеров, где искусственный интеллект пока бессилен.

Однако существует и другая сторона, которую я для себя обозначил как «разрыв между потенциалом и реальностью»: фактическое использование ИИ на практике существенно ниже этих теоретических 95%.

Получается, напрямую финансового директора заменить не получится. Но, возможно, наличие технологии ИИ поможет оснащённому ей руководителю работать значительно эффективнее, чем его невооружённому коллеге? Любой инструмент лучше, чем его отсутствие. Вопрос лишь в том, где именно этот инструмент приносит пользу, а где его применение требует сдержанности.

Очевидно, что активнее всего ИИ можно применять для рутинных, повторяющихся задач. Однако в моей практике набралось несколько ситуаций, подтверждающих необходимость осторожности при обращении с искусственным интеллектом. С одной стороны, он действительно эффективен в выявлении повторяющейся структуры в больших последовательностях операций, например, при согласовании типовых договоров. Набрать статистику типовых ошибок, пропущенных существенных условий, рекомендованных типовых решений – вполне по силам технологии ИИ. В итоге мы получаем инструмент «сборки» любого проекта в контексте конфигурации договорных условий.

Но, с другой стороны, каждая ситуация может оказаться уникальной. Стоит нам взглянуть на ситуацию в Персидском заливе – и мы обнаруживаем, что обстоятельства стремительно меняются, вплоть до недоступности капитала.

Кроме того, искусственный интеллект не умеет корректно распознавать и маркировать ошибки (не для этого он разработан). Возникает риск, когда ошибочное решение транслируется как типовое, и вот здесь нас (людей) ждут первые неприятные сюрпризы.

Как типовое решение привело к проблемам в Саудовской Аравии

Позвольте привести поучительный случай с моего предыдущего места работы. В тот период Саудовская Аравия являлась очень надёжным контрагентом. Мы строили для неё газопровод и остановились на типовом решении – зачем приобретать новые временные здания и сооружения, если можно ввезти старые? Идея казалась привлекательной, тем более что её активно поддерживал новый финансовый директор. Строители, отчего-то имевшие зуб на нового финансового директора, предложили следующий подход – взять бывшие в употреблении бытовки с завершающегося проекта на Ямале.

Логика была железной, но существовала одна деталь: ямальские бытовки оснащались двойными печками и тройными стёклами, тогда как в Саудовской Аравии на каждую бытовку требуется минимум два кондиционера. В итоге таможенные органы не пропустили это оборудование на территорию страны.

К чему я это рассказываю? Если вы поручаете машине подготовить типовое решение, обязательно проанализируйте контекст, а именно то, на основе каких данных и из какой среды это решение формируется. Иначе последствия могут оказаться непредсказуемыми.

Вопрос ответственности и «живые» ворота

Теперь рассмотрим вопрос ответственности. Кто будет отвечать, если алгоритм принял решение и что-то пошло не так? Мы все наблюдаем активные дискуссии вокруг юридической ответственности за действия беспилотных автомобилей. Назначить ответственного пока чётко не представляется возможным.

Возьмём стандартную гейтовую («шлюзовую») модель: этап, контрольные точки, документы и результаты. Нет документов и/или результатов, движение останавливается. Но в реальной практике половины документов не существует изначально, а многие технологические решения возникают на финальных стадиях проекта. Формальные контрольные точки не работают. Именно поэтому необходим человек, способный открывать эти «ворота» вручную.

Особенности работы системы искусственного интеллекта

Показательный случай произошёл в конце прошлого года. Партнёры из Узбекистана проектировали строительство медеплавильного завода с тремя последовательными звеньями: карьер (добыча), обогатительная фабрика и медеплавильная фабрика. Задача состояла в оценке структуры прямой производственной себестоимости по трём переделам и выборе оборудования. Мне предоставили языковую модель, и она выдала расчёт себестоимости, выглядевший очень убедительно. Однако меня насторожило, что цифры по второму и третьему переделам оказались подозрительно похожими. При более глубоком анализе выяснилось, что и перечень оборудования совпадает примерно на 80%.

На мой вопрос о методике расчёта модель ответила, что по первым двум переделам использовалась открытая статистика из России. По третьему переделу открытой статистики в России не оказалось – действующих производств нет, поскольку концентраты отправляются на переработку в другие страны. Тогда искусственный интеллект предположил, что третий передел очень похож на второй, и просто экстраполировал прогноз.

Мораль: любые красивые цифры необходимо тщательно верифицировать, потому что алгоритм из лучших побуждений – чтобы пользователь не расстраивался – может генерировать правдоподобные, но необоснованные ответы.

Мы попробовали обратиться к мировой статистике, но и там ничего не вышло, поскольку в глобальной практике третий передел является наиболее маржинальным, и соответствующие данные, как правило, закрыты. Ничего плохого или хорошего в этом нет; нужно помнить – машина стремится сохранить позитивный пользовательский опыт и может «достраивать» недостающую информацию.

Нюансы работы с данными

Перейду к более бытовым, но показательным примерам. В одном из случаев моя супруга решила помочь сыну с русским языком. Она обратилась к генеративной модели с запросом: «Приведи примеры, когда слово „неподалеку“ пишется слитно, а когда раздельно». Модель выдала структурированную статью с подробными правилами обособления частицы «не-». Проблема заключалась лишь в том, что в русском языке слова «подалеку» не существует. Однако общая логика подачи материала была безупречной.

Вывод: если пользователь не владеет базовой предпосылкой, он может не заметить подмены, а проверять именно фундаментальные основания выводов необходимо.

Затем супруга обратилась к английскому языку, где объём данных значительно больше. Она попросила создать грамматическую конструкцию с глаголом «substitute» (заменить). Модель упорно выдавала вариант «substitute with» – типичную кальку с русского, хотя авторитетные словари фиксируют единственно правильную форму «substitute for».

Проблема в том, что языковая модель не всегда маркирует ненадёжные данные. Разница между словарной статьёй и реальным употреблением в социальных сетях (включая, например, индийский английский с его особенностями) может быть существенной, и это необходимо учитывать.

Как изменение дискретности влияет на поведение

В одной из наших инициатив мы ввели единый платёжный день и стали отслеживать согласованность трёх параметров: финансирование, освоение и актирование работ. По логике, накопительным итогом эти три процесса должны идти параллельно после нормализации на авансы.

Что произошло на практике?

Спустя два квартала контрагенты стали сдавать работы менее ритмично. Изменение дискретности платежей вызывало у них беспокойство, они начинали искать альтернативные проекты. В итоге, в сжатые сроки пришлось изыскивать дополнительные средства, чтобы хотя бы приблизительно уложиться в базовый график. А ведь формально изменилась только дискретность оплаты.

Поручать подобные задачи искусственному интеллекту было бы неосмотрительно. Он не способен предсказать поведение людей и, скорее всего, выдаст оптимистичную картину, не отражающую реальных рисков.

Другой пример. При отсутствии проектной документации мы решили использовать укрупнённые расценки. Для планирования это удобно.

Как повели себя контрагенты? Они оперативно выбрали наиболее маржинальные объёмы работ, а затем обратились с просьбой пересмотреть расценки, ссылаясь на сложную рыночную ситуацию. После того как маржинальность уже была «забрана», переговорная позиция заказчика существенно ослабевает.

Кроме того, в практике нередки случаи, когда исполнительная документация «теряется» или задерживается на неопределённый срок. И наконец, третий аспект – постоянные рассказы о дополнительных работах и внезапных обстоятельствах.

Любая управленческая идея упирается в то, как контрагенты адаптируются к новым инструментам. KPI «живут» ровно столько, сколько требуется людям, чтобы научиться выполнять их с минимальными усилиями. Если интересы исполнителя не совпадают с интересами бизнеса – а так бывает в большинстве случаев – адаптация происходит очень быстро, и не всегда в желаемом направлении.

Метод освоенного объёма и календарный фактор

Ещё один показательный пример связан с методом освоенного объёма. Формальный расчёт может показывать: небольшое отставание по срокам, но значительная экономия бюджета. Казалось бы, результат положительный.

Реальность вносит коррективы.

Если на календаре октябрь, иностранные специалисты уже планируют новогодние поездки. Далее, формальное применение метода освоенного объёма не учитывает, что строительный объект сдаётся целиком, а не по частям. Нельзя сдать «19 третьих этажей», как и перепрыгнуть пропасть на 95%. Кроме того, фактически понесённые затраты включают в себя как физические работы, так и документальное оформление предыдущих «долгов» (работ, выполненных в натуральных показателях и находящихся на документальном оформлении на стороне исполнителя). Без разделения этих составляющих картина искажается. Наконец, январь – традиционный месяц низкой производительности в России: восстановление темпов работ после праздников затруднено. И, разумеется, задержки с оплатой (связанные хотя бы и с отставанием от графика) влияют на мотивацию персонала.

Таким образом, иллюзорная экономия при попытке уложиться в график может обернуться полной потерей контроля над сроками. Цифры, которые предоставляет искусственный интеллект, требуют экспертной интерпретации, основанной на личном опыте и знании конкретной отрасли.

Зачем нужен человек: нестандартные подходы

Человек полезен прежде всего нестандартными подходами к решению проблем. То, что заложено в алгоритм, – это одна история. То, как человек по факту принимает решения, – история иная.

Приведу два примера. Один наш соотечественник, оказавшийся в Польше, столкнулся с многочисленными штрафами за неправильную парковку. Он нашёл на свалке стандартный колёсный блокиратор. Теперь, оставляя машину, он устанавливает блокиратор, и инспекторы, видя это, не выписывают штраф. Ожидать, что подобное решение предложит искусственный интеллект, не приходится.

Другой пример. Семейная пара столкнулась с проблемой: мужчина теряется в магазине даже при наличии списка. Жена создала набор стикеров с рисунками нужных продуктов. Мужчина сверяет картинки на витрине и совершает покупки без стресса. Такие примеры показывают, где человеческая изобретательность незаменима.

Кроме того, человек необходим для принятия конечного решения, для демонстрации эмоциональной устойчивости (особенно когда ИИ выдаёт неожиданные результаты), а также для обучения на ошибках. Кстати, современные генеративные модели намеренно вставляют синтаксические ошибки и опечатки, чтобы текст выглядел более естественно – человек лучше воспринимает «живой» текст, чем стерильно гладкий.

Выдающийся специалист в области искусственного интеллекта Ян Лекун отметил: «В отличие от ИИ человек обладает лучшей контекстной памятью, лучше понимает динамику изменений внешней среды, лучше прогнозирует на основе опыта и способен работать в широком контексте – не только ситуации, но и её окружения».

Перед нами встаёт серьёзный вызов: люди системно утрачивают когнитивные способности. По статистике Яндекса, динамика профессионального роста разработчиков (переход из junior в middle) существенно снизилась после внедрения генеративных моделей. Причина проста: легче попросить чат написать фрагмент кода, чем самостоятельно разбирать и исправлять ошибки. В результате рядовых исполнителей становится много, и их легко заменить ИИ-агентами. Выдающиеся senior-специалисты остаются, но средний слой, обеспечивающий поддержку принятия решений, размывается.

Решение – сознательно тренировать когнитивные навыки: решать кроссворды, писать тексты, заниматься творчеством. Любое развитие полезнее его отсутствия.

Проведённый анализ позволяет сформулировать три основных положения.

Таким образом, человеческое участие остаётся незаменимым при условии, что мы поддерживаем и развиваем свой когнитивный потенциал. Именно способность к контекстному анализу, нестандартным решениям и управлению в условиях неопределённости превращает человека из потенциально заменяемого ресурса в ключевой актив, ценность которого только возрастает. И чем активнее мы используем ИИ как инструмент, а не как замену мышлению, тем прочнее становится наша позиция.

Андрей Иванов, независимый эксперт