В России начал формироваться рынок защиты систем искусственного интеллекта. К 2026 году он может превысить 1 млрд руб., а к 2029-му достигнет 11 млрд руб., следует из прогноза IT-компании AppSec Solutions.
Крупнейшие компании начинают внедрять инструменты анализа защищенности ИИ-систем на фоне громких утечек персональных данных и коммерческих тайн из чат-ботов.
При этом традиционные подходы к кибербезопасности — антивирусы, фаерволы, системы обнаружения внедрений — недостаточны для защиты больших языковых моделей. Эффективная защита таких систем требует других принципов: постоянного анализа контекста, поведенческих аномалий и самообучения механизмов безопасности, отмечают эксперты.
По словам участников рынка, одна из проблем — маскировка кибератак под легитимный трафик больших языковых моделей, что резко увеличило их скрытность. Наиболее подверженными новым атакам оказались финансовый сектор, промышленность и ритейл.
