«Ростелеком» изучает возможность создания специализированной «системы контроля коммуникаций LLM‑приложений»

По информации профильных источников из IT-отрасли, «Ростелеком» изучает возможность создания специализированной информационной «системы контроля коммуникаций LLM-приложений» (Системы КК). Согласно ТЗ проекта, это будет корпоративный LLM-файрвол. Речь в ТЗ идёт не о тендере, а о запросе информации от разработчиков, заявки по которому от потенциальных поставщиков решения в компании принимают до 19 октября 2026 года.

В экосистеме «Ростелекома» используются различные ИИ-решения. Чем их становится больше, тем проблематичнее их можно проверять. Компании в таком случае нужен единый слой контроля, который видит весь трафик между пользователями, внутренними системами и внешними языковыми моделями. Именно такую роль должен и выполнять проект Системы КК.

СОгласно ТЗ, программный код проекта должен входить в реестр ПО Минцифры, а в качестве базового стека для решения выбраны:

• операционная система «РЕД ОС»;

• виртуализация «Базис»;

• СУБД Platform V Pangolin SE на базе PostgreSQL.

Анализ диалогов в Системе КК планируется вести в реальном времени. Проверяться будут как входящие промпты от пользователей, так и ответы ИИ-моделей. Шлюз Системы КК должен распознавать попытки обойти ограничения модели, внедрить вредоносные инструкции, извлечь системные настройки или скрытно выгрузить закрытые данные через наводящие вопросы.

Профильные эксперты пояснили, что после тестирования проекта и внедрения, это регшение может стать одним из крупнейших в России примеров защиты генеративного ИИ на уровне всей компании. А значит, спрос на подобные решения будет только расти вместе с количеством LLM-приложений, агентов и новых нейросетевых угроз.