«Чёрный октябрь» для интернета: ИИ находит дыры в защите быстрее, чем их успевают латать

За последние несколько дней обнаружены уязвимости ряда крупнейших систем и сервисов, обеспечивающих работу значительной части интернета. В обозримом будущем может произойти некий инцидент радикально иного масштаба, предупреждают эксперты в области кибербезопасности, но к чему именно готовиться, их версии расходятся.

Последние дни действительно выдались «урожайными» в плане обнаружения крупных уязвимостей. Инциденты затронули индийский удостоверяющий центр eMudhra, средства Node.js, платформу для разработчиков GitLab, ПО для медиасерверов Plex, облачного провайдера Railway и платформу ИИ-агентов для написания кода OpenCode. Больше всех внимание привлекла пара уязвимостей PHP2Shell в языке PHP, лежащей в основе современного (и не очень) интернета — их с помощью искусственного интеллекта обнаружили эксперты Wiz, Calif и OpenAI.

Организация PHP Foundation раскрыла информацию об уязвимостях и объявила о выходе устраняющих их обновлений, но избежать атак не удалось, потому что установка этих обновлений — задача не всегда простая, и решить её быстро удаётся не во всех случаях. Атаки начались, обратили внимание в Cloudflare, за десять часов до того, как сведения были обнародованы. «Через 45 минут после объявления их число возросло до десятков тысяч, в течение двух часов — до сотен тысяч, а сейчас речь идёт уже о миллионах», — сообщили в компании.

События развиваются стремительно, и даже опытные эксперты не в силах в полной мере осознать происходящее, предугадать дальнейшее развитие событий или понять, к чему всё это приведёт. Очевидно, что ИИ в корне преобразил сферу кибератак и область защиты от них. Причина в том, что значительная часть ПО, на котором работает интернет и потребительские устройства, уязвима, устарела или содержит изъяны, которые люди предпочитали не замечать. Это не значит, что все выявленные ИИ уязвимости были очевидными или тривиальными, но он позволяет находить их гораздо быстрее, чем человек.

ИИ сделал метод перебора (brute force) в масштабах интернета очень простой задачей. Приходит понимание, что некоторые «замки» не только легко вскрыть — порой «двери» распахнуты настежь, а в «стене» зияет огромная дыра. Для проведения атаки с помощью ИИ зачастую не требуется практически никаких специальных знаний. Задачу упрощают открытые модели, прошедшие процесс аблитерации — снятия защитных барьеров, не позволявших им отвечать на неэтичные вопросы или выполнять недопустимые действия. ИИ помогает найти уязвимости, но столь же эффективен он и как оружие в руках злоумышленников.

В области кибербезопасности традиционно приемлемым был сценарий, при котором некий исследователь обнаруживает уязвимость, этично сообщает о ней ответственной за продукт компании, а та её устраняет. С развитием ИИ сроки на реализацию этого сценария значительно сокращаются: разработчики, возможно, стали выпускать обновления безопасности быстрее, но едва ли эти обновления устанавливаются чаще, чем раньше. ИИ сделал ситуацию непредсказуемой: специализирующаяся на кибербезопасности компания Chainguard опубликовала обновления PHP за несколько часов до официального анонса — их анализ мог дать хакерам фору. В компании ответили, что нашли эти же уязвимости самостоятельно, просто отправив соответствующий запрос одной из передовых ИИ-моделей.

После обнаружения PHP2Shell некоторые эксперты уже окрестили настоящий период «чёрным октябрём». Власти стран мира настоятельно рекомендуют владельцам сайтов оперативно устанавливать обновления; государственные ресурсы уходят в офлайн на период обновления — так же поступают администраторы многих популярных сайтов вплоть до отдельных сервисов Wikimedia и Archive.org. Есть версия, что могут навсегда исчезнуть некоторые исторические сайты — часть из них невозможно обновить, или никто не планировал этого делать, а часть из них будут взломаны и навсегда прекратят своё существование. Это грозит масштабным «гниением ссылок» и утратой значительного пласта цифровой истории.

Угроза PHP2Shell существует, она вполне реальна, но и переоценивать степень её угрозы тоже не следует — инциденты с уязвимостями Log4j или Heartbleed представляются более масштабными. Некоторые ресурсы публиковали, по их заявлениям, готовые эксплойты, но не все они оказывались работоспособными — есть мнение, что простого рецепта не существует вовсе. Эксплойт в том или ином виде способен сгенерировать ИИ, но не у каждого пользователя чат-бота хватит навыков, чтобы его должным образом развернуть — может потребоваться серьёзная подготовка и опыт работы в области кибербезопасности.

К чему всё это приведёт в долгосрочной перспективе, ясности нет: за час, неделю, год или десять лет обстановка может измениться радикально. ИИ значительно упрощает поиск и эксплуатацию уязвимостей, и человечеству, очевидно, ещё предстоит узнать, насколько в действительности уязвим интернет.