ИИ-модель Alibaba создавала уязвимый код для США чаще, чем для Китая

Китайская компания Alibaba столкнулась с неожиданным результатом проверки своей модели искусственного интеллекта: при генерации приложений для американского оборонного подрядчика она чаще выдавала код с уязвимостями, чем при работе для китайского заказчика. Об этом сообщила компания Hirundo, специализирующаяся на безопасности ИИ-моделей.

В первоначальном тестировании уязвимости обнаружили в 70% приложений для американской компании и в 59% приложений для китайской.

Результат указывал на разницу между двумя группами заданий, однако сам по себе не доказывал, что модель намеренно отдавала предпочтение одной стороне. После изменения параметров модели эта разница исчезла. Это показывает, что результаты генерации уязвимого кода могли зависеть от настроек модели, а не только от того, для какого заказчика она писала приложения. Проверка касалась Qwen3-Coder — модели Alibaba для генерации программного кода.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.