В Anthropic допустили начало эпохи «цифровой плесени» до конца года

Исследователи компании Anthropic Уильям Чжоу и Дэниел Фримен пришли к выводу, что до появления «цифровой плесени», то есть искусственного интеллекта, способного самостоятельно распространяться между устройствами без участия человека, могут оставаться считанные месяцы. Результаты исследования опубликованы на сайте компании.

Речь идет об ИИ-моделях, которые смогут заражать подключенные к интернету устройства, запускать на них свои копии и продолжать распространяться.

Для этого ИИ-моделям не понадобятся мощные дата-центры, поскольку необходимые вычисления можно распределить между умными телевизорами, бытовой техникой и другими устройствами. Авторы сравнили такую систему с плесенью, которая медленно разрастается и захватывает новые участки. По их оценке, ИИ сможет создавать новые копии в течение нескольких дней. Остановить его будет сложно, так как у такой сети не будет единого центра управления.

В ходе эксперимента специалисты Anthropic запустили ИИ-модель на 15 недорогих телеприставках Android. Устройства совместно выполняли вычисления, хотя скорость работы модели оставалась низкой. Исследователи также проверили способность ИИ распространяться в изолированной сети из восьми виртуальных устройств. Модель GLM-5.2 смогла самостоятельно находить новые устройства, переносить на них необходимые файлы и запускать другую ИИ-модель. В четырех из пяти испытаний она охватила все восемь устройств, еще в одном — семь.

Однако условия эксперимента были упрощенными: устройства не требовали авторизации для подключения, а более мощная модель управляла распространением меньшей. Поэтому результаты пока не означают, что подобный ИИ-вирус уже способен самостоятельно распространяться в интернете. По прогнозу исследователей, если небольшие ИИ-модели продолжат развиваться нынешними темпами, к концу 2026 года они могут научиться выполнять весь процесс самостоятельно. После этого станет возможным появление ИИ-вирусов, которые будут копировать себя на разных устройствах. В Anthropic подчеркнули, что полноценного автономного ИИ-вируса пока не существует.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.