Что нового в MWS Cloud: калькуляторы стоимости, дефолтные квоты и ранний доступ к Serverless Queue

Привет, Хабр! Собрали в одном посте главное из последних обновлений платформы: теперь стоимость конфигураций можно прикинуть до создания ресурсов прямо на сайте, у текстовых моделей появились дефолтные лимиты, а очередь событий можно запустить без серверов.

Калькуляторы: считаем деньги до

Опубликовали на сайте единый калькулятор облачных ресурсов. На отдельной странице можно собрать конфигурацию, посчитать её стоимость и сравнить варианты между собой.

Рассчитать стоимость ресурсов

Кроме того, калькуляторы появились прямо на страницах сервисов. Например, на странице GPT Model Hub можно посчитать и сравнить стоимость токенов для разных моделей.

Рассчитать стоимость деплоймента

ИИ-платформа: дефолтные квоты на запросы и токены

В GPT Model Hub установлены дефолтные квоты на запросы и токены в минуту. Для всех текстовых моделей значения RPM и TPM подобраны с учётом фактической нагрузки проектов — это помогает держать API стабильным при росте числа запросов и не ловить деградацию из-за соседей.

Что изменилось:

— актуальные значения смотрите в консоли MWS Cloud в разделе «Квоты»;

— если установленной квоты не хватает под вашу нагрузку — напишите в поддержку, указав модель и желаемое значение.

Читать в документации

Платформа данных: ранний доступ к Serverless Queue

Открыли ранний доступ к Serverless Queue, Kafka-совместимому сервису для потоковой обработки событий. Его главная задача — снять с инженеров управление и capacity-менеджмент нижележащей инфраструктуры: не нужно считать партиции под пик, держать дежурного на ребалансировках и масштабировать брокеры вручную.

Запустить очередь без серверов

О том, как сервис устроен внутри, мы написали отдельную статью на Хабре — читайте по ссылке.