Российские компании начинают внедрять защиту ИИ‑систем на фоне утечек данных

Источник «Коммерсанта», близкий к крупной IT‑корпорации, дает еще более оптимистичные оценки: 3–4 млрд рублей к 2026 году и 25–30 млрд рублей к 2030 году. При этом рынок генеративного ИИ в России к концу 2025 года ожидается на уровне 58 млрд рублей — при объеме в 13 млрд рублей в 2024 году.

Рост интереса к защите ИИ‑систем во многом обусловлен резонансными инцидентами с утечками данных. Так, в 2025 году зафиксированы первые публичные случаи компрометации персональных данных и коммерческой тайны из GenAI‑моделей. Как отмечает директор по кибербезопасности «СберТеха» Всеслав Соленик, это формирует новый сегмент рынка: «С ростом применения ИИ в бизнесе и госсекторе защита от специфичных угроз, таких как манипуляции с ИИ‑моделями, становится необходимостью».

Среди недавних инцидентов — утечка данных у китайского разработчика ИИ‑чат‑бота DeepSeek в начале 2025 года. Из‑за неправильно настроенной облачной базы злоумышленники получили доступ к более чем миллиону записей, включая чаты пользователей, API‑ключи и системные логи. Информация об этом поступила от международной организации OWASP. В марте 2025 года та же организация сообщила о случае, когда уязвимость внедрения подсказок в ChatGPT привела к раскрытию конфиденциальных данных пользователя.

Крупные компании, особенно в сфере финтеха, уже начинают внедрять инструменты анализа защищенности ИИ‑систем. По словам гендиректора AppSec Solutions Юрия Сергеева, ключевые заказчики таких решений — организации, активно проходящие AI‑трансформацию: финансовые учреждения, телеком‑компании и промышленные предприятия. Всеслав Соленик подтверждает, что среди клиентов — крупные компании из этих секторов.

При этом традиционные методы кибербезопасности — антивирусы, фаерволы, системы обнаружения вторжений — оказываются недостаточными для защиты больших языковых моделей. Как подчеркивает бизнес‑партнёр по информационной безопасности Cloud.ru Юлия Липатникова, эффективная защита требует иных подходов: «Постоянного анализа контекста, поведенческих аномалий и самообучения механизмов безопасности».

Особую тревогу вызывает тактика злоумышленников, которые всё чаще маскируют кибератаки под легитимный трафик больших языковых моделей. По словам эксперта центра мониторинга и противодействия кибератакам компании «Информзащита» Шамиля Чича, это увеличивает незаметность атак на корпоративный сектор на 42 %. «Самая серьезная угроза в том, что компании воспринимают LLM‑трафик как доверенный по умолчанию, — поясняет он. — Именно эта „легитимная оболочка“ делает новые атаки особенно опасными. ИТ‑системы воспринимают их как штатное взаимодействие с ИИ, тогда как фактически речь идет о полноценном канале управления зараженными устройствами».

Наиболее уязвимыми к таким атакам оказались три ключевых сектора экономики. На финансовый сектор приходится 34 % инцидентов, на промышленность и высокотехнологичное производство — 27 %, на ритейл и e‑commerce — 21 %. Оставшиеся 18 % приходятся на государственные, образовательные и медицинские учреждения, где высокий трафик и сложная инфраструктура создают дополнительные риски для появления скрытых угроз.