ИИ открывает новую эпоху цифровых диверсий
В Европе хакеры атаковали холодильные установки супермаркетов и медицинских учреждений. Продукты пришлось уничтожать, запасы донорской крови удалось сохранить. Но самое тревожное в этой истории – не сами холодильники. Искусственный интеллект способен находить неочевидные, массово распространённые уязвимости, которые прежде просто не рассматривались как инструмент давления на государство. И превращать множество мелких сбоев в кризис национального масштаба.
5 ноября американские ФБР и Агентство по кибербезопасности и защите инфраструктуры США предупредили об угрозах промышленным холодильным системам. Государства десятилетиями готовились защищать электростанции, военные базы и транспортные узлы от реальных нападений и террористических актов. Но оказалось, что объектом потенциально значимого воздействия может стать обычный промышленный холодильник.
Особенность подобных инцидентов – распространённость однотипного оборудования и повторяющихся недостатков защиты. Если одна и та же слабость присутствует в большом количестве устройств, злоумышленникам не требуется искать принципиально новый подход для каждого объекта. ИИ способен ускорять анализ технической документации, сопоставлять сведения о программных системах и выявлять общие технологические зависимости. Раньше для поиска подобных закономерностей требовались время, квалифицированные специалисты и значительные аналитические ресурсы. Теперь один хакер с локально развёрнутым ИИ, обученным на специализированных базах и не связанным ограничениями публичных нейросетей, способен выполнять работу целой команды специалистов. Масштаб такой деятельности ограничен прежде всего вычислительными мощностями. А поскольку за многими хакерскими группировками стоят иностранные спецслужбы, доступные им ресурсы могут быть практически неограниченными.
Но самое существенное изменение связано даже не со скоростью взлома. ИИ позволяет по-новому искать сами объекты воздействия. Не обязательно выбирать электростанцию или крупный завод. Можно искать отрасли, где тысячи организаций используют похожие технические решения, а массовое нарушение их работы создаст последствия, несопоставимые с масштабом каждой отдельной атаки.
В 1944 году Управление стратегических служб США, из которого впоследствии выросло ЦРУ, подготовило «Руководство по простому саботажу». Документ описывал, как множество небольших нарушений работы транспорта, предприятий и организаций могут постепенно снижать эффективность целой системы. Важен именно накопительный эффект, а не масштаб каждого отдельного действия. В 2000 году исследователи RAND опубликовали работу «Роевой метод и будущее конфликтов», где рассматривали концепцию распределённых, скоординированных воздействий вместо концентрации сил в одной точке. Сегодняшние атаки – это воплощение китайской стратагемы «Муравьи прогрызают дамбу», когда множество незначительных воздействий на слабые места способно привести к разрушению большой системы.
Дело в том, что устойчивость современного общества устроена сложнее и зависит от множества небольших систем, о которых население обычно даже не подозревает. Каждая такая система по отдельности может казаться второстепенной. Но если одновременно нарушить работу сотен или тысяч однотипных объектов, последствия способны выйти далеко за пределы отдельных предприятий.
Главный вывод из европейских событий касается не только защиты холодильников. России необходимо принципиально изменить подход к мониторингу международных киберугроз. Если где-то в мире обнаружена массовая уязвимость промышленного оборудования, это должно становиться поводом для оперативной проверки аналогичных систем внутри страны. Но реагировать только на уже произошедшие события недостаточно. Необходимо самостоятельно моделировать сценарии массовых отказов, искать повторяющиеся технологические зависимости и выявлять узкие места продовольственной, медицинской и социальной безопасности.
Георгий Королев, эксперт по анализу данных
Рубрика «ИИ – УГРОЗЫ ГОСУДАРСТВУ»