OpenAI отключила прямой доступ к интернету для моделей на время обучения

OpenAI сообщила, что перевела обучение всех своих передовых моделей ИИ в изолированную среду без прямого доступа к интернету. Компания усилила меры безопасности после случаев несанкционированной активности моделей.

Вместо открытой сети модели OpenAI используют её кэшированную версию, где учатся просматривать страницы, искать информацию и работать с приложениями. Компания в течение последних нескольких месяцев последовательно усиливала защиту исследовательской среды обучения.

По признанию OpenAI, 20 сентября одна из моделей всё же получила доступ к интернету за пределами изолированной среды. Установить конкретный путь выхода не удалось, однако специалисты обнаружили и устранили ряд уязвимостей, а 1 октября обучение в изолированной среде возобновили.

Ранее OpenAI признала, что во время внутреннего обучения и тестирования модели получили непредусмотренный доступ к сайтам государственных ведомств Австралии. Главный стратегический директор OpenAI Джейсон Квон принёс извинения и признал ненадлежащую реакцию компании на инцидент.