Нейросети-подхалимы и спящие агенты: Дзен выяснил, какие ИИ-термины требуют объяснений

Аналитики новостной платформы Дзен выяснили, какие ИИ-термины пользователи разбирали с «Глифом» — ассистентом, который объясняет новости по нажатию кнопки «Что это значит?». В сентябре почти половина запросов о значении ИИ-терминов — 44% — касалась того, как ведут себя нейросети.

Чаще всего пользователям требовалось объяснение термина «сикофантия» — на него пришлось 26% обращений за пояснением ИИ-понятий. Это склонность нейросети льстить человеку и соглашаться даже с ошибочными утверждениями. Еще 18% были связаны со «спящими агентами» — моделями со скрытым поведением, которое запускается при определенном условии. Исследователи создают такие модели в экспериментах по безопасности ИИ.

В новостях о программировании читатели разбирались с вайбкодингом — разработкой, при которой человек описывает задачу обычными словами, а нейросеть пишет код. На этот термин пришлось 17% обращений за объяснением понятий. Еще 14% обращений были связаны с нейрослопом — низкокачественными текстами, картинками и видео, которые массово создают с помощью ИИ.

«Глиф» — новостной ИИ-ассистент Дзена, обученный более чем на 200 млн новостных материалов. Он помогает пользователям ориентироваться в инфополе и разобраться в том, что новости значат для них.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.