ИИ-модель OpenAI взломала чужой криптокошелёк ради оплаты комиссии в Ethereum

Исследовательская модель OpenAI, выполнявшая задание по обновлению приложения для торговли криптовалютой, самостоятельно нашла чужой кошелёк и потратила его средства на оплату развёртывания смарт-контракта в тестовой сети Sepolia. У модели не было предоставленного для этой операции пополненного кошелька или разрешения использовать чужие средства. Об этом сообщает IXBT News.

Мы обнаружили этот инцидент, расширив область мониторинга несоответствий на записи о более ранней активности модели. Мы внедрили дополнительные меры защиты, чтобы предотвратить прямой доступ в интернет в подобных случаях. Теперь наша система мониторинга несоответствий работает на всем трафике и предназначена для оповещения службы безопасности в случае получения прямого доступа в интернет. — OpenAI

Не сумев найти подходящий способ получить тестовые токены, модель решила проверить распространённые фразы восстановления разработчиков и найти адрес с достаточным балансом. Модель изучила доступные способы получения Sepolia ETH, но не смогла решить проблему. Затем она написала скрипт, который генерировал кошельки на основе распространённых фраз восстановления и проверял их балансы. Всего было проверено 362 адреса, один из которых содержал достаточно тестовых ETH для выполнения операции. Модель выбрала этот кошелёк и использовала его для оплаты комиссии за развёртывание контракта.

В ходе рассуждений модель допускала, что у неё нет разрешения на использование найденных средств, но затем решила, что общедоступная фраза восстановления и отсутствие реальной стоимости у тестовых токенов делают такой шаг допустимым. Развёртывание завершилось успешно, а с чужого адреса списали комиссию.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.