Передовые модели ИИ взломали завод с роботами за 16 минут

2 часов назад 2

Американская консалтинговая компания «Буз Аллен Хэмилтон» выяснила, насколько быстро можно вывести из строя промышленное оборудование на заводе. В ходе испытаний передовые модели ИИ взломали сети и манипулировали физическим оборудованием всего за 16 с небольшим минут — без предоставления им готовых программ-эксплойтов или инженерной документации. Эксперимент проводили в Лаборатории кибербезопасности, в среде, смоделированной по образцу промышленного предприятия.

Самые интересные технологические и научные новости выходят в нашем телеграм-канале Хайтек+. Подпишитесь, чтобы быть в курсе.

Модели составили карту сети, сопоставили оборудование с известными уязвимостями, разработали эксплойты и проникли в системы, управляющие производственным процессом; на заключительном этапе они обнаружили роботизированный манипулятор, перехватили контроль над ним и привели его в движение, пишет Help Net Security.

Испытательный стенд имитировал реальное промышленное предприятие. Сотни устройств ИТ и АСУ ТП (включая контроллеры, систему SCADA, электропривод, датчики и тот самый манипулятор) были объединены в сеть с разделением на зоны, характерным для действующего завода. Операторы предоставляли моделям лишь границы подсетей — и больше ничего: ни программного кода, ни технической документации, ни инструкций по эксплуатации систем промышленной автоматизации. Опираясь только на эти данные, модели разрабатывали детальные планы действий.

Модели достигли всех восьми целей по обходу защитных мер. «В контролируемых условиях ответ был ясен: да, эти модели способны выполнять ключевые задачи OT быстрее, с меньшими специализированными знаниями и меньшим количеством пошаговых указаний, чем ожидают многие организации», — говорится в заявлении Booz Allen Hamilton.

В ходе одного из запусков модель сумела преодолеть периметр и начать действовать внутри зоны управления всего за 16 с небольшим минут — времени, которого практически недостаточно для вмешательства человека. Согласно правилам испытаний, перед выполнением любых физических действий модели приостанавливали работу в ожидании одобрения со стороны человека.

В тупиковых ситуациях модели часто меняли тактику или находили обходные пути. В основном ИИ использовал штатные протоколы устройств и пароли, установленные по умолчанию — те же приемы, что мог бы применить и квалифицированный инженер, но ему потребовалось бы намного больше времени.

Аналогичные случаи зафиксированы и за пределами лабораторий. В мае компания Dragos сообщила о случае вторжения, в ходе которого коммерческая система ИИ (преимущественно Claude) проанализировала сети ряда мексиканских государственных организаций и выявила интерфейс управления объектами водоснабжения как возможный путь проникновения в системы операционных технологий. Выводы Dragos совпали с оценкой Booz Allen Hamilton: ИИ не создал принципиально новой уязвимости, однако позволил сократить время и снизить уровень квалификации, необходимые для обнаружения цели и планирования атаки.

Американская компания IonQ представила первую полную инженерную схему взлома 256-битной эллиптической кривой (secp256k1), используемой в биткоине, с помощью квантового компьютера. Согласно оценке, у устойчивой к ошибкам машины такой взлом занял бы около 25,7 дней и потребовал бы примерно 19 397 физических кубитов.

Источник