Shadow AI (теневой ИИ)

Shadow AI (теневой ИИ) – это несанкционированное использование инструментов искусственного интеллекта сотрудниками организации без официального одобрения ИТ-департамента и служб информационной безопасности.

Данное явление часто обусловлено стремлением персонала к оперативной автоматизации задач и доступностью публичных сервисов, таких как ChatGPT или Claude. Основная опасность теневого ИИ заключается в неконтролируемой передаче проприетарного кода, клиентских баз и стратегических данных внешним провайдерам для обучения их будущих моделей. Это создает критические риски утечек информации, нарушения комплаенса (включая 152-ФЗ и GDPR) и расширения поверхности кибератак через использование уязвимых браузерных расширений.

Кроме того, бесконтрольное применение ИИ может приводить к системным ошибкам в бизнес-отчетности из-за феномена «галлюцинаций» алгоритмов.

Дополнительную информацию по бюджетированию, планированию и контроллингу можно посмотреть:

• Тематический раздел: Бюджетирование, планирование и контроллинг
• Конференции по информационным технологиям в бюджетировании