Anthropic предупреждает о захвате умных телевизоров и роботов-пылесосов ИИ-червями за 6–12 месяцев

Исследователи Anthropic Уильям Чжоу и Дэниел Фримен показали, что малые ИИ-модели могут распространяться по бытовым устройствам, действуя как самовоспроизводящиеся черви. Это не традиционное вредоносное ПО с фиксированным кодом, а модель, которая несёт собственные веса в составе полезной нагрузки, самостоятельно исследует незнакомое оборудование и настраивает среду выполнения прямо на заражённом устройстве. Эксперимент проводился на 15 недорогих Android TV-приставках с 4 ГБ оперативной памяти каждая.

Генеральный директор Anthropic Дарио Амодей предупредил: рой таких репликаторов может быть готов через 6–12 месяцев и способен захватить интернет устойчивым децентрализованным ботнетом.

Исследователи разбили цикл репликации на четыре стадии: сетевое сканирование, получение доступа, развёртывание ИИ-среды на новом устройстве и дальнейшее распространение. Шаг взлома был намеренно исключён, так как более ранние работы уже подтвердили способность малых моделей справляться с эксплуатацией уязвимостей. Учёные сосредоточились на самой сложной части: может ли модель настроить работающую ИИ-среду на устройстве, которого никогда не видела. Модель GLM-5.2 успешно завершила полную цепочку репликации на всех восьми тестовых узлах в четырёх из пяти запусков. Более слабые модели справлялись с отдельными этапами: 9-миллиардная модель развернула среду Llama3.1-8B на 8 из 9 типов устройств, но не могла осилить всю цепочку.

Важное наблюдение исследователей: ИИ-черви способны учиться. При имитации искусственной эволюции каждая особь передавала потомкам заметки об успешных и провальных стратегиях. У модели Qwen3.5-9B доля успешных попыток выросла с 45% в первом поколении до 84% в последующих. В отличие от традиционных ботнетов, поражавших конкретные типы устройств, ИИ-ботнет сможет работать на любом оборудовании. При масштабе Kimwolf, заразившего более 2 миллионов устройств, суммарная вычислительная мощность роя эквивалентна всего 40 специализированным ИИ-чипам, но у такой сети нет «центрального аварийного выключателя». Защита возможна, но требует координации: интернет-провайдеры могут изолировать заражённые сети, а производители — закрыть уязвимости запретом паролей по умолчанию. Исследователи, однако, ожидают, что ИИ-ботнеты всё же смогут адаптироваться к защитным мерам самостоятельно. Об этом сообщает IXBT News.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.