ИИ искажает четверть информации при редактировании документов

Как сообщает Content-Review, современные чат-боты исказили до 25% исходных данных при выполнении цепочки из 20 последовательных задач по редактированию текстов. Исследование специалистов Microsoft Research подтвердило неспособность алгоритмов сохранять целостность информации в сценариях с множеством правок. Даже при работе с небольшими документами объемом от 3 до 5 тысяч токенов нейросети теряли важные сведения на разных этапах обработки.

По данным аналитиков, ошибки в файлах возникают внезапно и не носят постепенный характер. Алгоритм может успешно выполнить 10 команд, но на следующем шаге безвозвратно удалить до 30% контента. Продвинутые языковые модели часто заменяют удаленные фрагменты правдоподобными выдуманными фактами. Это делает процесс обнаружения неточностей крайне сложным для пользователя без детальной проверки каждой версии документа.

Специалисты заявляют о несостоятельности концепции полной передачи работы с договорами или программным кодом автономным агентам. Искусственный интеллект эффективно справляется с разовыми задачами по изменению тональности или переводу. При этом многоэтапные процессы требуют обязательного участия человека для контроля качества на каждой итерации. Использование нейросетей без постоянной верификации результатов создает высокие риски накопления ложных данных в корпоративных системах.

Подробнее о том, как интегрировать электронный документооборот с корпоративными системами, внедрять искусственный интеллект в работу с файлами и переходить на использование электронных транспортных накладных, расскажут эксперты на Двадцать четвертом форуме «Внутренний и внешний электронный документооборот», который пройдет 21-22 мая 2026 года в Москве.