Вадим Кукузей, «Каппа Рус Окуловка»: «Всецелое доверие результатам генерации ИИ может привести к финансовым последствиям»

Вадим Кукузей, финансовый директор, «Каппа Рус Окуловка», и спикер Одиннадцатой конференции «Информационные технологии в бюджетировании», рассказал CFO Russia о рисках, с которыми может столкнуться компания при внедрении ИИ в финансовые процессы компании, а также поделился, как переобучать сотрудников и преодолевать сопротивление изменениям при внедрении ИИ.

Какие основные риски для информационной безопасности возникают при внедрении ИИ в финансовые процессы компании?

Я рассматриваю два глобальных риска, когда речь заходит о внедрении ИИ в финансовые (но и не только) процессы в компании. Первый риск – это риск конфиденциальности, утечки данных, личной и коммерческой информации. Второй риск – это утрата доверия к ИИ. 

Если речь идет о риске утечки данных, то здесь есть несколько рецептов и правил, которые необходимо соблюдать.

Во-первых, самое простое – это локализовать ИИ-модель без выхода в интернет. Либо, если пользоваться ИИ с выходом в интернет, то соблюдать цифровую гигиену: ИИ-модель не должна иметь прямой связи с вашими учетными системами, загружать документы необходимо без указания ФИО, названия компаний, реквизитов и прочих элементов, по которым можно опознать компанию, удалять историю чатов или в настройках указывать запрет на использование ваших данных для обучения модели.

Риск доверия к ИИ – тоже серьезная проблема, которая может поставить крест на вашей инициативе по внедрению искусственного интеллекта в финансовые процессы в компании, а также привести к финансовым последствиям, если всецело доверять результатам генерации ИИ.

В настоящее время ведутся серьезные научные разработки методов повышения доверия к ИИ, такие, например, как LIME или SP-Lime, как со стороны зарубежных специалистов, так и со стороны отечественных. ИИ-модели продемонстрировали впечатляющие возможности по обработке запросов и представлению результатов, но их внутренние механизмы по-прежнему являются «черным ящиком» и недостаточно прозрачными и объяснимыми. Методы, которые разрабатываются в научном сообществе, достаточно сложны для неподготовленного пользователя, и сейчас ощущается нехватка каких-то простых и удобных решений или правил, чтобы можно было определить корректность результатов и возможность их использования без относительных рисков.

Как Ваша компания решает задачу переобучения сотрудников и преодоления сопротивления изменениям при внедрении ИИ?

В нашей компании практика применения ИИ не сильно распространена. Есть круг лиц, которые используют ИИ-модели в своей работе, применяют, например, для автоматического написания аналитики к дашбордам или автоматической рассылки материалов, но это носит точечный характер. Причина: не слишком высокое доверия к ИИ в принципе и ограниченное понимание применимости в реальных процессах компании. Но тем не менее мы объясняем сотрудникам целесообразность применения искусственного интеллекта, и те, кто, по нашему мнению, может использовать ИИ в своей работе, проходят соответствующее обучение.

На Ваш взгляд, как найти баланс между повышением эффективности и сохранением безопасности при использовании ИИ в бюджетировании?

Это разработка Политики применения ИИ в процессах компании, которая бы включала в себя правила использования, методологии проверки (валидации) данных, методы верификации источников данных, повышение компетенций в области использования искусственного интеллекта, правила этичности и конфиденциальности при обучении и работе с ИИ-моделями.

Задать свои вопросы Вадиму и узнать больше об опыте «Каппа Рус Окуловка» вы сможете на Одиннадцатой конференции «Информационные технологии в бюджетировании», которая состоится 24 апреля 2026 года.

Елизавета Гета