Anthropic перепишет часть законопроекта об ИИ после критики

Anthropic пересмотрит часть своего проекта федерального закона о безопасности искусственного интеллекта. Это решение принято после критики со стороны специалистов по безопасности ИИ и американских законодателей. Поводом стал конфиденциальный документ, который компания обсуждала с сотрудниками Конгресса США и который опубликовало издание Politico.

«Критики считают, что предложенные правила слабее двухпартийного законопроекта Frontier Act и могут затруднить блокировку опасных моделей», — сообщает IXBT News.

Согласно опубликованному тексту, власти могли бы добиваться запрета на выпуск или использование модели только при узком наборе условий. Риск должен быть предсказуемым и непосредственным, а потенциальный ущерб — превышать 1 млрд долларов либо включать гибель или серьёзные травмы более чем 50 человек. Основанием могли бы стать создание биологического оружия, выход модели из-под контроля разработчика или кибератака. При этом Министерству торговли США пришлось бы обращаться в федеральный суд, а другим ведомствам и должностным лицам проект запрещал бы самостоятельно приостанавливать работу модели.

Отдельные претензии касаются ограничения полномочий штатов в регулировании ИИ и требований к независимым аудиторам. По проекту, оценщики моделей могли бы получать оплату от самих разработчиков, а единые стандарты лицензирования для них не устанавливались бы. Сенатор Калифорнии Скотт Винер заявил, что предложение недостаточно защищает общественную безопасность, а представители организаций, выступающих за регулирование ИИ, предупредили о риске слишком мягких проверок и ограничении возможностей властей вмешиваться при возникновении угроз.

Руководитель федерального направления Anthropic Энтони Чимино признал, что формулировки о приоритете федерального законодательства над законами штатов были «недостаточно точными» и будут пересмотрены. Он также сообщил, что компания повторно оценит пороговые значения риска, уточнит подход к блокировке опасных моделей и подготовит предложения по требованиям к независимым оценщикам, включая меры против выбора аудиторов по принципу наименьшей строгости. По словам Чимино, задача компании — найти баланс между эффективным контролем и чрезмерными ограничениями для разработчиков.

Критика поступила и с противоположной стороны: бывший куратор Белого дома по вопросам ИИ Дэвид Сакс заявил, что более низкий порог отнесения систем к передовым моделям может затронуть значительную часть Кремниевой долины и навредить стартапам. Anthropic столкнулась с претензиями как к недостаточной строгости проекта, так и к потенциально широкому охвату регулирования. Компания намерена доработать документ, но пока не представила окончательную редакцию законопроекта.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.