Эксперты в области информационной безопасности говорят о том, что за счёт масштабного внедрения искусственного интеллекта количество кибератак значительно подросло. Недавно разведывательный альянс Five Eyes ("Пять глаз") заявил, что новые поколения нейросетей способны наносить масштабные кибератаки, угрожающие правительствам и крупному бизнесу разных стран. ИИ-модели могут не просто находить уязвимости в системах, но и самостоятельно писать код для взлома. При этом выросла и скорость атак. В ответ, например, администрация США, входящая в этот альянс, заблокировала для иностранцев доступ к некоторым новейшим ИИ-моделям. Параллельно эксперты заявляют, что компании сейчас не должны перекладывать вопросы кибербезопасности только на ИТ-отделы.
У нас возник ряд вопросов, которые мы постарались разобрать с независимым экспертом по кибербезопасности ИИ, автором и ведущим Телеграм-канала Makrushin Денисом Макрушиным.
- LLM-модели (или большие языковые модели - прим. ред.) месяцами обучаются на специально подготовленных данных, в которые входят репозитории с уязвимостями, прототипы средств их эксплуатации, код исправлений и много других артефактов, которые позволяют модели в будущем воспроизводить полный путь "исследователя" уязвимостей. Ключевым моментом в развитии LLM стало получение доступа к инструментам анализа уязвимостей. Модель научилась воспроизводить итеративные процессы (циклический подход к работе, при котором проект развивается через повторяющиеся этапы - прим. ред), например: запустить уязвимое приложение, получить ошибку, скорректировать код эксплойта, запустить приложение снова. С этого момента модель перестала только генерировать гипотезы - она стала самостоятельно их проверять.
- Некоторые государства стали закрывать доступ для иностранцев к большим нейросетям. Насколько эффективной в защите может быть эта мера и существуют ли технические способы обхода подобных блокировок?
- Ограничения эффективны как сдерживающий фактор. Есть и обратная сторона этих ограничений: они стимулируют пользователей переходить на альтернативные открытые варианты. Открытые модели с сопоставимыми возможностями, которые пользователь может запустить локально и дообучить на своих специализированных данных, становятся не только вариантом обхода ограничений, но также альтернативой, которая даёт возможность сохранить свои данные во внутреннем контуре.
- Всё чаще говорят о разработках в "закрытых правительственных лабораториях" в разных странах мира. Что конкретно подразумевается и какие типы киберугроз, выходящие за рамки публичных моделей, могут там создаваться? Как они изменят ландшафт самой кибербезопасности в ближайшие годы?
- Чтобы говорить о конкретных программах, нужно быть их участником, поэтому мы можем сейчас только порассуждать гипотетически. Публичные модели имеют встроенные ограничения на генерацию вредоносного кода. Специализированные разработки этих ограничений могут не иметь. Кроме того, для обучения таких специализированных моделей у разработчиков может быть доступ к специальным закрытым данным. Ключевой сдвиг, который мы увидим в ближайшем будущем, полная автоматизация кибератак: от стадии разведки до заключительного этапа постэксплуатации. Сейчас в таких атаках человек всё ещё выполняет роль оператора. Через три-пять лет технологический разрыв между наступательными и оборонительными технологиями может стать ключевым риском для крупных ИТ-инфраструктур.
- Денис, в чём заключается новая реальность для бизнеса? Насколько я поняла, ответственность за кибербезопасность всегда ложится на руководство. Какие конкретные шаги должны предпринять CEO (руководящее звено, определяющее стратегическое видение, цели и общую политику компании) и советы директоров компаний для адекватного учёта этих рисков в общей стратегии управления организацией?
- В первую очередь, CEO должен задать себе вопрос: "За какое время я смогу восстановить свои бизнес-процессы после кибератаки?" Затем следующий вопрос: "Какое время для этого требовалось год назад?" И заключительный: "Как мне снизить это время?" Ответы на эти вопросы приведут его и совет директоров к пониманию актуального ландшафта угроз для бизнеса, соответствующей стратегии и приоритетов для его защиты. А также подскажут, какое должностное лицо в совете будет эту стратегию исполнять и регулярно пересматривать.
- Разные эксперты говорят о том, что порог входа в системы для чёрных хакеров критически снизился. Какие превентивные меры и технологии защиты считаются наиболее перспективными для противодействия атакам с использованием автономного ИИ-оружия?
- Лучший ответ на ИИ-атаку - это ИИ-защита. При этом недостаточно купить и установить продукты безопасности, в которых есть "технология обнаружения угроз с помощью ИИ". Необходимо сначала выстроить бизнес-процессы и архитектуры ИТ-организации так, чтобы даже в случае инцидента бизнес был устойчивым. С появлением ИИ-агентов становится актуальнее подход "нулевого доверия", при котором все участники в инфраструктуре являются сомнительными, им не доверяют до конца. На основе этой гипотезы выстраиваются ключевые подходы и технологии защиты. Кроме того, владельцам бизнеса нужно регулярно задавать вопрос: "Что я и моя команда будем делать в случае инцидента?" Ответ на этот вопрос приведёт к периодическим симуляциям кибератак, регулярному анализу защищённости бизнеса и наличию чётких процессов управления кризисными ситуациями.
Мир информационных технологий может быть разным, как и те, кто работает в этой сфере. И чтобы больше знать, чем живёт эта отрасль в Омске и за его пределами, читайте рубрику "Войти в ИТ" на сайте "Омск Здесь".
Фото: Елизавета Медведева
