Банк России рекомендовал усилить защиту ИИ на финансовом рынке

На сайте Центрального банка регулятор опубликовал методические рекомендации по обеспечению информационной безопасности при разработке и применении искусственного интеллекта на финансовом рынке. Как сообщает Банк России, документ предназначен для кредитных организаций, некредитных финансовых организаций, участников национальной платежной системы и других компаний, работающих на финансовом рынке.

Рекомендации направлены на снижение рисков, связанных с использованием ИИ в финансовых сервисах и внутренних процессах. По данным регулятора, организациям следует учитывать угрозы, которые могут повлиять на конфиденциальность данных, качество работы моделей, устойчивость систем и операционную надежность.

Особое внимание в документе уделено рискам, связанным с обучающими данными. Банк России указывает на угрозы использования некорректных, неактуальных или «отравленных» наборов данных. Такие данные могут привести к ошибочным выводам модели ИИ и нарушению работы финансовых процессов.

Регулятор также рекомендует учитывать риски галлюцинаций ИИ, дрейфа данных, недостаточной объяснимости решений и возможных уязвимостей в компонентах с открытым исходным кодом. Если ИИ применяется в критически важных процессах, включая платежные операции и учетные системы, Банк России рекомендует предусмотреть проверку результатов человеком с возможностью их изменения.

Организациям предлагается разработать модель угроз для систем ИИ, определить меры защиты и закрепить порядок их применения во внутренних документах. Также рекомендуется оценивать надежность поставщиков ИИ-сервисов, контролировать целостность моделей и данных, использовать обезличенные или синтетические данные при передаче информации внешним подрядчикам.