ИИ‑агент отправил личный финансовый отчёт пользователя в рабочий Slack‑канал

ИИ‑агент отправил личный финансовый отчёт пользователя в рабочий Slack‑канал. Как рассказал пострадавший, генеральный директор компании‑разработчика программного обеспечения XMTP Labs Шейн Мак, речь идёт об агенте на базе Grok.

По словам Мака, он создал персонального ИИ‑агента с обязанностями «финансового директора» с помощью Grok Bot и настроил его в конце августа. От агента требовалось собирать и еженедельно присылать в личный чат с пользователем информацию об остатке средств, расходах, регулярных платежах и подозрительных транзакциях. Раз в месяц агент должен был отправлять полный отчёт за месяц.

«Сначала я настроил еженедельные отчёты, и всё работало отлично. Но когда пришло время первого ежемесячного аудита, что‑то пошло не так. Бот отправил отчёт в Slack‑канал моей компании. Коллега даже начал его читать, решив, что это финансовые показатели фирмы. Но когда в документе появились расходы на строительство сарая на участке, он насторожился», — рассказывает Мак. 

В ответ на указание ошибки Grok Bot начал извиняться и пообещал удалить сообщение. «К тому моменту я его уже сам удалил», — отмечает Мак.

В феврале торговый бот Lobstar Wilde, созданный разработчиком OpenAI Ником Пашем, перевел 52,4 млн мемкоинов $LOBSTAR — 5% всей эмиссии — случайному пользователю X. Получатель обналичил токены за $40 000 в течение 15 минут.

Модель искусственного интеллекта компании Anthropic отправила в полицию Филадельфии ложное сообщение о нераскрытом убийстве. ИИ передал эту недостоверную информацию через общедоступную линию для приёма сообщений Департамента полиции Филадельфии 18 июля, однако в Anthropic обнаружили этот факт лишь 28 сентября.