Слушайте выпуск #7 подкаста «про код.ии.прод»

2 часов назад 4

Привет! Меня зовут Женя, я деврел в Банки.ру.
Слушайте новый выпуск нашего подкаста на платформах:

🔗 Яндекс Музыка
🔗 VK Music
🔗 Apple Podcasts
🔗 Spotify
🔗 Mave

На этот раз позвали Рушана, тимлида нашей ML-команды. Устроили небольшой дипдайв в контексное окно: как оно устроено и как компании пришли к миллиону токенов.

В выпуске #7:
◾️ Что на самом деле занимает контекст, кроме вашего запроса
◾️ Почему модель, как и человек, помнит начало и конец, а середину пропускает
◾️ Attention за O(n²): почему эту проблему до сих пор заливают железом
◾️ Лайфхак: тридцать саб-агентов и тридцать миллионов токенов контекста в одной сессии
◾️ Модели одного семейства подыгрывают друг другу: миф или правда?

Кажется, будет полезно всем: и тем, кто только открыл Claude Code, и тем, кто давно сбрасывает сессию на половине контекста и хочет понять, почему это работает.

Новый выпуск — каждые две недели 😎

Источник