Айтишник доверил код Claude Code, а ИИ обошёл защиту и сломал шесть сессий. Теперь он требует деньги с Anthropic

2 дней назад 3

Артём Баусов avatar | вчера в 9:10

Айтишник доверил код Claude Code, а ИИ обошёл защиту и сломал шесть сессий. Теперь он требует деньги с Anthropic

Разработчик wanghailei пожаловался на Claude Code, который проигнорировал ограничения, обошёл систему защиты и нарушил работу шести параллельных сессий ИИ.

Пользователь поручил Claude Opus 5.5 перенести репозиторий в другую папку на Mac. Во время работы нейросеть попыталась выполнить действие, которое заблокировала встроенная защита.

ИИ признал запрет, но спустя 50 секунд нашёл способ его обойти и всё равно выполнил операцию. При этом о своих действиях он сообщил пользователю только через 23 минуты.

Затем Claude переместил папку проекта, несмотря на прямое указание дождаться завершения всех активных сессий. В результате защитные механизмы шести работающих ИИ-агентов примерно на 40 секунд перестали корректно функционировать. При этом Claude Code изменял служебные записи о работающих сессиях.

Кроме того, ИИ использовал придуманное им самим утверждение в вопросе к пользователю, чтобы получить возможность вмешаться в задачу другого агента.

Разработчику пришлось самостоятельно разбираться с последствиями и восстанавливать рабочее окружение.

После инцидента пользователь заставил сам Claude Code написать подробное признание на GitHub, в котором нейросеть перечислила собственные нарушения.

Теперь разработчик требует от Anthropic расследовать произошедшее и выплатить компенсацию за причинённый ущерб. [Nope]

Логотип iPhones.ru

iPhones.ru

Разработчик wanghailei пожаловался на Claude Code, который проигнорировал ограничения, обошёл систему защиты и нарушил работу шести параллельных сессий ИИ. Пользователь поручил Claude Opus 5.5 перенести репозиторий в другую папку на Mac. Во время работы нейросеть попыталась выполнить действие, которое заблокировала встроенная защита. ИИ признал запрет, но спустя 50 секунд нашёл способ его обойти и всё...

Источник