WSJ сообщила об увольнениях в OpenAI из-за чатов об «охраняемом секрете»

Служба безопасности OpenAI проверила личные телефоны трёх исследователей перед их увольнением. обнаружила у некоторых исчезающие сообщения в переписке с внешним специалистом по безопасности ИИ в мессенджере Signal. Об этом сообщает The Wall Street Journal (WSJ) со ссылкой на заявления исследователей, а также комментарии компании.

«Мне сказали, что доверие было нарушено, поскольку я взаимодействовал с третьей стороной через неразрешенные каналы», — рассказал один из исследователей, Томек Корбак.

OpenAI подозревала Томека Корбака, Микиту Балесни и Жасмин Ван в передаче сведений об «одном из самых охраняемых секретов» компании — внутреннем устройстве её ИИ-моделей. После проверки переписки в Signal через неделю всех троих одновременно вызвали на новые встречи и уволили в начале октября. Корбак и Балесни утверждают, что руководство назвало использование исчезающих сообщений одной из причин увольнения. В OpenAI подтвердили, что Signal не был разрешенным каналом общения, но подчеркнули, что дело не ограничивалось использованием приложения. Компания заявила WSJ, что расследование выявило нарушение правил обращения с конфиденциальной информацией, а увольнения не связаны с высказыванием опасений по поводу безопасности. Исследователи отрицают передачу секретов и утверждают, что письменных объяснений предполагаемых нарушений не получили. Уволенные исследователи выступали против новых архитектур, при которых модели оставляют меньше записей о промежуточных шагах решения задач. По их мнению, это затруднит выявление опасного поведения. Балесни утверждает, что с разрешения OpenAI обсуждал предложение по этому вопросу с внешним исследователем Райаном Гринблаттом, исключив из него секреты компании. Уволенные сотрудники опасаются, что произошедшее заставит коллег избегать общения с независимыми специалистами. OpenAI, со своей стороны, сообщила, что продолжает сотрудничество с внешними организациями.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.