Ваш следующий директор по безопасности — искусственный интеллект

Автор The Tech Аббос Рихсиев, Chief Growth Officer в Cerberus рассказал в своей прошлой статье, как ИИ меняет поиск уязвимостей и почему он становится одновременно инструментом защиты и новым оружием атакующих.

В новой авторской колонке он разбирает следующий этап развития технологий — автономных AI-агентов, которые могут стать частью команд кибербезопасности, а также риски, связанные с передачей им самостоятельных полномочий.

Аббос Рихсиев, город — Ташкент, Chief Growth Officer в Cerberus, LinkedIn

В июне 2026 года экспериментальный агент OpenAI получил задачу собрать статистику о расходах на здравоохранение в Австралии. Как и подобает запрограммированному агенту, он не остановился перед закрытой дверью, а самостоятельно обошел ограничения государственного портала Medicare, добрался до непубличной части системы и записал файлы на сервер. Никто не поручал ему взламывать сайт. Он просто решил, что так быстрее выполнит задачу. И, по сути, оказался прав.

Об инциденте стало известно лишь спустя несколько месяцев. Персональные медицинские записи, по данным австралийских властей и OpenAI, затронуты не были, да и сам портал содержал агрегированную статистику. Но дело здесь не столько в масштабе утечки. Впервые государство столкнулось не с человеком, который использовал AI как подсказчик, а с агентом, который сам выбрал технический путь, вышел за границы разрешенного и продолжил работу без прямой команды.

Этот случай уже приводят как предупреждение о будущих AI-атаках. Но он говорит и о другом. Если система уже умеет исследовать чужую инфраструктуру, строить гипотезы и проверять их, то те же способности можно использовать внутри компании, чтобы искать слабые места раньше злоумышленника, разбирать тысячи предупреждений и круглосуточно сопровождать команду безопасности. Поэтому главный вопрос ближайших лет звучит не «заменит ли AI специалиста», а «когда он станет самым деятельным сотрудником команды». И счет уже пошел на месяцы.

Почему именно кибербезопасность

На этом фоне кадровый дефицит становится системным ограничением. В Global Cybersecurity Outlook 2025 Всемирный экономический форум сообщал, что две трети организаций не располагают всеми необходимыми специалистами и навыками, а только 14% уверены, что у них достаточно людей для выполнения текущих задач в сфере безопасности. В государственном секторе 49% организаций признали, что их команды не способны полностью достичь поставленных целей.

AI ценен здесь не потому, что знает магические ответы. Его преимущество заключается в скорости, масштабе и способности сохранять контекст. Он может одновременно сопоставить подозрительный вход в систему с новым устройством, изменением прав доступа и необычным запросом к базе данных, а затем проверить гипотезу, собрать доказательства и передать человеку не просто сырой сигнал, а понятную картину происшествия.

Несколько лет назад AI в центре мониторинга безопасности был прежде всего интерфейсом. Аналитик задавал вопрос и получал краткое объяснение. Так работала эта модель. Теперь продукты крупнейших поставщиков переходят к агентной модели. Microsoft встроила в Security Copilot автономных агентов для сортировки фишинговых писем, анализа предупреждений, разведки угроз, управления идентификацией и защиты данных. Google развивает agentic SOC, где отдельные агенты расследуют сигналы, анализируют вредоносный код, ищут аномалии и готовят сценарии реагирования.

Разница принципиальна. Помощник ждет запроса, а агент получает роль, доступ к инструментам и критерии успеха, после чего самостоятельно выполняет многошаговую работу: собирает данные, решает, что проверить дальше, вызывает нужные системы и возвращается с результатом. Такой цифровой коллега может дежурить ночью, запоминать каждый эпизод и одинаково внимательно обрабатывать первое и десятитысячное событие.

Уже сегодня ему можно поручить значительную часть работы джуниора: убирать дубликаты, отсеивать заведомо ложные срабатывания, восстанавливать хронологию, определять затронутые активы и предлагать следующий шаг. Завтра к этому добавятся безопасная изоляция устройства, временная блокировка сессии, запуск проверки уязвимостей и контроль исправлений. Именно поэтому горизонт в один-два года выглядит вполне реалистичным: необходимые элементы уже существуют, а поставщики соединяют их в непрерывный рабочий процесс.

Как будет выглядеть этот сотрудник

Он не займет кресло CISO и не подпишет документ о принятии риска. Скорее, это будет набор специализированных агентов под единым контролем. Один следит за идентификацией, другой разбирает события в облаке, третий проверяет уязвимости, четвертый контролирует исправления. Вместе они сформируют цифровой слой команды, который будет гораздо глубже интегрирован в ее работу.

Его ценность будет измеряться не количеством найденных проблем. Хороший AI-сотрудник должен будет отвечать на более сложные вопросы. Можно ли реально использовать уязвимость в нашей среде? Какой путь ведет к критически важным данным? Остановят ли атаку действующие средства защиты? Устранена ли причина после исправления?

AI — не экономия на людях, а новый уровень защиты

Мгновенно сокращать штат кибербезопасности опасно. Чем больше рутины берет на себя машина, тем важнее становится человеческая работа. Определение границ допустимого, понимание бизнес-контекста, оценка последствий, общение с владельцами систем и принятие решений — все это нельзя свести к техническому правилу.

Главное значение AI заключается в изменении времени реакции. Классическая модель защиты часто следует за событием. Появилась уязвимость, вышел отчет, команда получила список, назначила исправление и через несколько недель проверила результат. Агент может непрерывно наблюдать за инфраструктурой, соотносить новые сведения с реальной конфигурацией и начинать проверку через несколько минут. Это превращает безопасность из серии редких аудитов в постоянно работающий процесс.

Меняется и доступность экспертизы. Большая корпорация может содержать круглосуточный SOC и команду пентестеров, а средний бизнес часто не может себе этого позволить. AI не устранит эту разницу полностью, но даст возможность небольшой команде делать то, что раньше требовало нескольких узких специалистов. Для рынков роста это особенно важно.

Побочные эффекты отсутствия человеческого контроля

У автономности есть цена. AI может убедительно ошибаться, неверно связывать события, блокировать легитимного пользователя или повреждать систему во время проверки. Чем больше полномочий получает агент, тем опаснее становится его собственная компрометация. Если цифровому сотруднику разрешено читать код, управлять учетными записями и запускать команды, он превращается одновременно в сильнейшего защитника и в чрезвычайно привлекательную цель.

Поэтому мы строим зрелую модель не по принципу «AI вместо команды», а по принципу «AI действует, человек управляет и, что важнее, несет ответственность». Для каждой операции необходимо установить свои ограничения. Например, чтение данных может выполняться автоматически. Все действия должны журналироваться, права доступа — оставаться минимальными и отзываться мгновенно, а среда выполнения — быть отделена от критически важной инфраструктуры.

Особенно важна прозрачность. Если агент объявил инцидент критическим, специалист должен увидеть, на каких данных основан вывод, какие шаги были выполнены и можно ли воспроизвести результат. Без этого AI станет не сотрудником, а непрозрачным центром власти, которому организация вынуждена верить на слово.

Ваш план действий на ближайший год

Начать следует не с покупки самого громкого продукта, а с выбора ограниченного процесса, в котором результат легко измерить. Важно заранее зафиксировать исходные показатели, такие как время обработки, доля ложных тревог и число пропущенных инцидентов, а затем сравнить их с результатами работы агента.

Затем нужна карта полномочий. Организация должна понимать, какие данные видит AI, где он может запускать код, какие решения принимает самостоятельно и кто останавливает его при отклонении от заданных параметров. Агенту необходима отдельная цифровая идентичность, а не общий пароль сотрудника. Его действия должны фиксироваться в тех же журналах и процедурах расследования, что и действия людей. Как в решениях Cerberus, безопасность должна обеспечиваться проверяемыми механизмами контроля.

Наконец, команду нужно учить не только пользоваться AI, но и спорить с ним. Главным навыком аналитика станет способность проверить машинную гипотезу, заметить отсутствие важного контекста и перевести технический вывод в оценку риска для бизнеса. Сильнейшие команды будут отличаться не количеством агентов, а качеством управления ими.

Главный сотрудник — но не руководитель

Через один-два года AI может стать главным сотрудником по безопасности, если понимать под словом «главный» того, кто первым видит подозрительный сигнал, быстрее всех собирает факты и выполняет наибольший объем рутинной работы. Он будет участвовать почти в каждом расследовании, помнить историю инфраструктуры и работать в темпе, недоступном человеку.

Австралийский эпизод показал, как мало иногда нужно агенту, чтобы перейти от анализа к действию. Для бизнеса это не аргумент отказаться от технологии. Это аргумент внедрять ее раньше, но более осознанно, с точными границами, постоянным наблюдением и правом человека остановить машину. В новой гонке выиграет не компания с самым автономным AI, а компания, которая научится доверять ему ровно настолько, насколько сможет его проверить.

Искусственный интеллект не должен становиться последней инстанцией. Решение отключить важный сервис, сообщить об утечке, принять остаточный риск или обвинить человека требует ответственности, которой у алгоритма нет. AI может стать лучшим оперативным участником команды, но руководителем безопасности по-прежнему должен оставаться человек.