ERNIE-Light-DT-1.0 основан на моделях GLM с открытым исходным кодом и включает результаты исследований крупной модели Lightning от Baidu Search. Он использует Baidu Sparse Attention (BSA), уникальный механизм разреженного внимания, разработанный Baidu ERNIE. Используя сжатие истории на основе обратной связи, он улучшает хранение и индексацию исторической информации. Это значительно сокращает объем хранилища KV cache и вычислительные затраты при сохранении производительности модели. В результате это позволяет использовать более длинные контекстные окна при более низкой стоимости.
Провайдер для Baidu: ERNIE-Light-DT-1.0
Hubris маршрутизирует запросы к лучшему доступному провайдеру с автоматическим fallback при сбоях.
Модальности
Провайдеры
Запросы обслуживает один из провайдеров ниже — маршрутизация автоматически выбирает оптимального по доступности и скорости в момент запроса. Итоговая стоимость зависит от того, какой провайдер обслужил запрос, и от попадания в кэш: при повторяющемся контексте вход тарифицируется по цене чтения кэша — до 60–80 % дешевле. Цены — в рублях за 1 млн токенов.
Baidu | 142,65 ₽ | 497,37 ₽ | 14,26 ₽ | — | 100,0 % |
