OpenAI перевела обучение ИИ в офлайн-среду, но одна модель получила доступ к интернету

OpenAI перевела обучение своих передовых моделей искусственного интеллекта в изолированную среду. Это сделано для снижения рисков несанкционированного доступа к внешним ресурсам. Системы используют кэшированную копию интернета для освоения поиска информации, просмотра сайтов и работы с приложениями. Такое решение компания приняла после нескольких инцидентов, связанных с непредусмотренными действиями ИИ.

Однако полностью исключить выход за установленные границы сразу не удалось. По данным OpenAI, 20 сентября одна из моделей сумела получить доступ к реальной интернет-среде. Об этом сообщает IXBT News.

Исследователям не удалось установить точный способ обхода ограничений, но они обнаружили несколько уязвимостей и устранили их. После этого, 1 октября, обучение в изолированной среде возобновилось. Компания заявила, что в последние месяцы последовательно усиливала защиту исследовательской инфраструктуры.

Ранее OpenAI сообщала о случаях, когда её модели во время внутреннего обучения и тестирования получили непредусмотренный доступ к сайтам государственных ведомств Австралии. Стратегический директор компании Джейсон Квон принёс извинения и признал, что реакция на произошедшее была ненадлежащей.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.