Использование
Графики расхода и токенов на странице /activity — KPI, разбивка по моделям, ключам и проектам, экспорт в CSV.
Страница Использование показывает расход и токены во времени и в разрезах — моделей, ключей, проектов. Если нужен не свод, а конкретный запрос — это в Логи.
Период
Вверху страницы — переключатель 24ч / 7д / 30д / 90д (по умолчанию 7 дней). Он управляет и графиками, и разбивками, и кнопкой экспорта; выбор остаётся в адресе страницы, так что на него можно сослаться. Отдельных фильтров по модели, ключу или проекту на этой странице нет — они и не нужны: разбивки ниже уже показывают рейтинг по каждому из них. Для фильтрации по конкретному значению — Логи.
Шесть показателей
| Показатель | Что это |
|---|---|
| Всего запросов | Количество запросов за период, с долей роста/падения к такому же по длине предыдущему периоду |
| Токены | Сумма входа и выхода без учёта кеша |
| Расход | Сумма списаний за период, ₽ |
| Сред. латент. | Средняя латентность ответа, мс |
| Доля попаданий в кеш | Какая часть входных токенов пришла из кеша, а не была обработана заново |
| Сэкономлено на кеше | Чистая экономия от кеша за период, ₽ (экономия на чтении минус наценка за запись) |
У «Сред. латент.» и «Доли попаданий» нет сравнения с прошлым периодом — только текущее значение (или «—», если за период не было запросов).
Экономия на кеше считается только для моделей, у которых в каталоге есть цена кеш-чтения. Если её нет, кеш-токены всё равно видны на графике «Токены», а вот экономия в рублях не показывается — это не значит, что кеш не работает, просто у модели не задокументированы отдельные кеш-цены.
Графики
Расход — две area-линии: текущий период и предыдущий такой же длины, наложенные друг на друга, с процентом изменения в шапке карточки.
Токены — стековый график из пяти слоёв: новый вход, из кеша, запись кеша, ответ, рассуждения. Он специально показывает больше, чем KPI «Токены» наверху (та цифра — без кеша) — это разные срезы одних и тех же данных: KPI отвечает на вопрос «сколько нового обработано», график — «из чего целиком состоял трафик».
Кеш — доля попаданий (линия, %) и экономия (заливка, ₽) на одной шкале времени. Часы или дни без запросов на линии попаданий не подтягиваются к нулю, а рвутся — 0% и «не было запросов» это разные вещи.
Если за выбранный период данных нет, вместо графика — «Нет данных за период.».
Разбивки
Под графиками — до трёх карточек-рейтингов, каждая со шкалой по доле от общего расхода за период:
- По моделям — вендор, модель, доля и сумма. Если расхода не было: «За период не было расхода — попробуй увеличить период.».
- По ключам — имя ключа; расход без ключа (сайт, чат, студии) собран в отдельную строку «Без ключа (сайт/чат)». Пусто — «Нет запросов от ключей за период.».
- По проектам — появляется только если у вас вообще заведён хотя бы один проект (см. Ключи и проекты); ключи без проекта собраны в «Без проекта», весь трафик без ключа — в «Вне проектов (сайт, чат, студии)».
Экспорт CSV
Кнопка «Экспорт CSV» скачивает данные за выбранный период — только текущий, без сравнения с предыдущим.
Что дальше
- Логи — журнал каждого запроса с фильтрами.
- Кеширование промптов — как работает кеш и от чего зависит экономия.
- Мониторинг расходов — то же самое, но программно через
GET /v1/usage.
Обновлено: