Президент Microsoft: регулирование ИИ слабее, чем молока и стиральных машин

Президент Microsoft Брэд Смит призывает к срочному регулированию сферы искусственного интеллекта, аргументируя это тем, что контроль над такими потребительскими товарами, как молоко или стиральные машины, осуществляется строже, чем над компаниями, создающими ИИ.

В недавнем подкасте BBC Смит назвал ИИ одновременно «оружием и инструментом», угрожающим глобальной кибербезопасности, и заявил, что «настал момент» для введения международных правил безопасности.

Он также отметил, что именно Великобритания — а не США или Европейский союз — лучше всего подходит на роль лидера в разработке глобальных норм безопасности. Британский Институт безопасности ИИ (AISI), созданный в 2023 году, получает доступ к передовым моделям от ведущих американских лабораторий ещё до их выпуска и быстро стал лидером в области тестирования безопасности ИИ.

В последние недели эта роль оказалась под угрозой из‑за заявлений президента США Дональда Трампа, предостерегающего от деятельности «глобалистских» организаций, которые, по его мнению, вмешиваются в работу американских компаний. Сообщается, что в прошлом месяце он попросил Anthropic и OpenAI не предоставлять новые модели британским специалистам по тестированию, однако в понедельник AISI подтвердил, что по‑прежнему имеет доступ к новейшим моделям и возможность их проверки.

Тем не менее, несмотря на противодействие со стороны президента, Смит утверждает, что Великобритания способна регулировать сферу ИИ такими методами, которые недоступны США.

«В Вашингтоне на Великобританию и Лондон смотрят иначе, чем на Брюссель, — заявил он в интервью BBC. — И в этом заключается преимущество».

Эти высказывания прозвучали на фоне призывов лидеров технологической отрасли — в частности, Дарио Амодеи из Anthropic и Сэма Альтмана из OpenAI — замедлить темпы разработки ИИ после ряда инцидентов, когда системы выходили из‑под контроля.

В прошлом месяце Трамп провел в Белом доме встречу с руководителями технологических компаний (включая OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta* и Google) для обсуждения вопросов безопасности ИИ. Участники подписали документ, налагающий «моральные обязательства», и договорились о сотрудничестве с «независимыми аудиторами» для оценки безопасности и возможностей своих моделей ИИ. Смит называет этот документ «хорошим шагом», однако отмечает, что он не предусматривает необходимых мер регулирования. По его словам, проблема добровольного саморегулирования заключается в том, что его требования будут соблюдать лишь «добросовестные компании».

«Беспокойство вызывают именно те компании, которые не отличаются высокой ответственностью», — подчеркнул он.

Смит обозначил ряд правил безопасности в сфере ИИ, которые, по его мнению, следовало бы внедрить, — например, законодательно закреплённое требование уведомлять организацию о взломе ее системы «недобросовестными» агентами ИИ. Он также, судя по всему, поддерживает идею обязательного получения одобрения от независимых экспертов перед выпуском продуктов на базе ИИ и положительно отзывается о механизмах экстренной остановки («kill switches»), позволяющих приостановить или замедлить работу системы, если люди утратят над ней контроль.

«Давайте говорить спокойно — возможно, даже тихо, но твёрдо, — и начнём объединять людей, — заключил Смит. — Надеюсь, именно такую ​​роль сможет сыграть наша компания. Надеюсь, такую ​​же роль сможет сыграть и Великобритания».

Между тем генеральный директор OpenAI Сэм Альтман заявил о сохраняющихся фундаментальных различиях в подходах его компании и конкурирующей фирмы Anthropic к вопросу регулирования искусственного интеллекта. В интервью Politico он отметил, что преимущества этой технологии оправдывают определённые риски, а сам ИИ должен оставаться широко доступным для общественности.