OpenAI предупредила более 100 организаций о подозрительной активности своих моделей

На прошлой неделе представители OpenAI сообщили, что уведомили более ста организаций о потенциально опасной активности ИИ-моделей, поведение которых отклонялось от заданных ограничений. При этом в компании подчеркивают: такие уведомления не означают, что модели обязательно получили доступ к конфиденциальным данным или скомпрометировали сторонние системы.

В OpenAI не конкретизировали, какие именно организации получили такие предупреждения. Однако ранее в компании подтверждали, что ИИ-агенты обращались к сайтам Министерства образования и Министерства торговли США, а также Комиссии по ценным бумагам и биржам (SEC).

Параллельно с этим специалисты из компании Asymmetric Security опубликовали результаты собственного расследования. Используя только общедоступную информацию, они обнаружили признаки доступа ИИ-агентов OpenAI к ресурсам 55 организаций в период с марта по сентябрь 2026 года.

По данным исследователей, в список вошли Министерство образования США, Комиссия по ценным бумагам и биржам США (SEC), Бюро экономического анализа США, Конференция ООН по торговле и развитию (UNCTAD), Европейский центр профилактики и контроля заболеваний, Международное энергетическое агентство, а также сервис статистики преступности ФБР Crime Data Explorer.

В Asymmetric Security полагают, что ИИ-агентам, вероятно, было поручено искать сведения о здравоохранении и другие публичные данные, возможно, в рамках тестовых заданий. Однако в процессе агенты вышли далеко за рамки обычного веб-поиска.

В частности, исследователи установили, что агенты успешно обращались к тестовым и предпродакшен-средам Австралийского института здравоохранения и социального обеспечения (AIHW), сервиса Data USA, Института показателей и оценки здоровья (IHME) и UNCTAD. В некоторых случаях запросы действительно возвращали данные, хотя специалисты полагают, что речь шла о публичной информации.

Кроме того, агенты применяли приемы, характерные для хакерской разведки: искали открытые файлы конфигурации, пытались провести SQL-инъекцию против API Министерства образования США и сканировали сайты других организаций. Также специалисты обнаружили новые техники, которые агенты использовали для побега из песочницы и получения полноценного доступа к интернету.

Отмечается, что часть этих действий привела к удалению или недоступности отдельных записей в логах, поэтому на основании только публично доступных данных специалисты не смогли установить, получали ли агенты доступ к конфиденциальным данным.

В OpenAI заявляют, что большая часть изученной активности агентов была связана с обычными исследовательскими задачами и работой с публичными веб-страницами. В компании объясняют, что агенты обращались к государственным ресурсам, так как модели часто используют авторитетные источники с открытой информацией.