Глава Microsoft призвал относиться к ИИ как к «скомпрометированному»

Генеральный директор Microsoft Сатья Наделла считает, что разработчикам искусственного интеллекта (ИИ) нужно пересмотреть подходы к безопасности. Также необходимо обеспечить возможность быстро останавливать работу ИИ, если возникнут проблемы. Об этом сообщает Ferra.

«Мы должны исходить из того, что модель уже скомпрометирована, и с самого начала принимать меры по локализации угрозы … Представьте себе это как аварийный тормоз», — подчеркнул глава Microsoft.

Наделла заявил в соцсетях, что сложные модели нельзя воспринимать как «чёрные ящики», просто принимая или отвергая их ответы и решения. Он считает, что работу ИИ нужно сделать более «прозрачной и управляемой». Например, можно разделить саму модель и систему, которая организует её работу, а механизмы контроля и защиты вынести в отдельные инструменты. Каждое важное действие* ИИ должно сопровождаться защищёнными от изменений записями, чтобы человек мог их прочитать и проверить. Также он предлагает дать уполномоченному сотруднику возможность приостановить или полностью остановить модель прямо во время выполнения задачи.

*Минюст России включил «Действие» в реестр иностранных агентов

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.