Разработчики сообщили об отказе Claude и Codex делать реверс*-инжиниринг

Пользователи ИИ-помощников Claude от Anthropic и Codex от OpenAI сообщили об отказах выполнять некоторые задачи по реверс-инжинирингу. Это изучение устройства программ и прошивок. На жалобы обратил внимание «Хабр».

Пользователь соцсети X под ником log4j заявил о блокировке аккаунта OpenAI после работы над обратной разработкой. По его словам, он исследовал программы локально и не использовал сервисы компании для эксплуатации или поиска уязвимостей. Пользователь оценил потерю средств в $500 и также сообщил о потере накопленных возможностей восстановления лимитов.

Другой пользователь X, автор аккаунта @0x0SojalSec, сообщил об отказах Claude выполнять подобные задачи. По его утверждению, система безопасности может остановить ответ уже после начала работы. Он связал это с обсуждением случаев исследования прошивок телевизоров Samsung, однако подтверждения такой связи от Anthropic нет.

Официального объявления OpenAI или Anthropic о новом общем запрете на реверс-инжиниринг либо создание бесплатных аналогов платных программ не обнаружено. Сообщения отдельных пользователей не позволяют установить, ввели ли компании новые ограничения и насколько широко они действуют.

Реверс-инжиниринг — это исследование готовой программы, чтобы понять, как она устроена и работает, в том числе без доступа к ее исходному коду. Специалисты анализируют файлы программы, выполняемые ею команды и реакцию на действия пользователя. Полученные сведения позволяют искать уязвимости, изучать вредоносное ПО, обеспечивать совместимость с другими программами или создавать собственные аналоги с похожими функциями.

Один из примеров применения ИИ для создания аналогов коммерческих программ — проект ArtCraft разработчика Брэндона Томаса. С помощью Claude он выпускает бесплатные приложения с открытым исходным кодом, воспроизводящие функции программ Adobe и Microsoft. Среди них — аналоги Word, Excel и PowerPoint. Пока это ранние версии, а не полноценная замена оригиналам. Подтверждений связи пользовательских жалоб с проектом Томаса нет. Об этом сообщает РБК.

*Минюст России включил «Реверс» в реестр иностранных агентов

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.