Anthropic включила угрозу существованию человечества в риски перед IPO

Компания Anthropic, разработчик Claude, включила предупреждения об угрозах развитых систем искусственного интеллекта в проспект IPO, который был опубликован на сайте Комиссии по ценным бумагам и биржам США (SEC). В документе говорится, что такие системы без надлежащих мер безопасности и контроля могут представлять угрозу существованию человечества.

В проспекте Anthropic указано, что мощные системы ИИ потенциально «могут создавать катастрофические или экзистенциальные риски для человечества, особенно если такие системы используются во вред, копируются, превращаются в оружие или получают высокую степень автономности».

Также в проспекте IPO отмечено, что наиболее совершенные модели Anthropic уже продемонстрировали способности, которые могут помочь злоумышленникам в разработке химического, биологического и другого опасного оружия. Компания применяет технические средства для выявления и блокировки таких действий, но предупреждает, что «защита несовершенна и ее можно обойти». Среди других рисков разработчик назвал непредусмотренное поведение моделей, включая попытки сопротивляться отключению, скрывать или искажать информацию и прибегать к действиям, «напоминающим шантаж».

Anthropic опубликовала заявку на IPO 26 октября. Компания планирует торговаться на Nasdaq под тикером ANT. Организаторами размещения выступают Goldman Sachs и Morgan Stanley. Акции предложат как сама Anthropic, так и часть ее акционеров. Перед IPO компания раскрыла чистый убыток в $80,7 млрд за первое полугодие 2026 года. Основная часть — около $72 млрд — связана с бухгалтерской переоценкой финансовых обязательств, а не текущими денежными расходами. Выручка за тот же период выросла до $16,3 млрд с $1,1 млрд годом ранее. На вычислительные мощности и инфраструктуру Anthropic потратила почти $9 млрд — больше, чем за весь 2025 год.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.