MythoMax 13B

gryphe/mythomax-l2-13b

Выпущена 2 июля 2023 г.|8К контекст|6,78 ₽/М вход|6,78 ₽/М выход

Одна из самых высокопроизводительных и популярных fine-tune-версий Llama 2 13B, с богатыми описаниями и ролевыми играми. #merge

Провайдер для MythoMax 13B

Hubris маршрутизирует запросы к лучшему доступному провайдеру с автоматическим fallback при сбоях.

gryphe

Latency

—

Throughput

—

Uptime

—

Контекст

8К

токенов

Макс. ответ

4К

токенов

Вход

6,78 ₽

за 1М токенов

Выход

6,78 ₽

за 1М токенов

Модальности

Вход:ТекстВыход:Текст

Провайдеры

Запросы обслуживает один из провайдеров ниже — маршрутизация автоматически выбирает оптимального по доступности и скорости в момент запроса. Итоговая стоимость зависит от того, какой провайдер обслужил запрос, и от попадания в кэш: при повторяющемся контексте вход тарифицируется по цене чтения кэша — до 60–80 % дешевле. Цены — в рублях за 1 млн токенов.


NextBit	6,78 ₽	6,78 ₽	—	—	100,0 %
Parasail	9,04 ₽	12,43 ₽	—	—	98,2 %
DeepInfra	45,18 ₽	45,18 ₽	—	—	99,9 %
Mancer 2	50,83 ₽	73,42 ₽	—	—	99,9 %

Поддерживаемые параметры

frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetop_atop_ktop_logprobstop_p

Тарификация для MythoMax 13B

Цены в рублях за 1 млн токенов. Списание — за реальные токены, без подписок.

Тип	Цена в ₽	Единица
Вход	6,78 ₽	за 1М токенов
Выход	6,78 ₽	за 1М токенов

Пример кода и API для MythoMax 13B

Hubris — OpenAI-совместимый API. Используйте любой OpenAI SDK, поменяв только base URL и ключ.

Получить API-ключ

curl https://api.hubris.pw/v1/chat/completions \
  -H "Authorization: Bearer sk-gw-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gryphe/mythomax-l2-13b",
    "messages": [{"role": "user", "content": "Привет"}]
  }'

curl https://api.hubris.pw/v1/chat/completions \  -H "Authorization: Bearer sk-gw-..." \  -H "Content-Type: application/json" \  -d '{    "model": "gryphe/mythomax-l2-13b",    "messages": [{"role": "user", "content": "Привет"}]  }'

from openai import OpenAI

client = OpenAI(
    base_url="https://api.hubris.pw/v1",
    api_key="sk-gw-...",
)

response = client.chat.completions.create(
    model="gryphe/mythomax-l2-13b",
    messages=[{"role": "user", "content": "Привет"}],
)
print(response.choices[0].message.content)

from openai import OpenAIclient = OpenAI(    base_url="https://api.hubris.pw/v1",    api_key="sk-gw-...",)response = client.chat.completions.create(    model="gryphe/mythomax-l2-13b",    messages=[{"role": "user", "content": "Привет"}],)print(response.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.hubris.pw/v1",
  apiKey: process.env.HUBRIS_API_KEY!,
});

const response = await client.chat.completions.create({
  model: "gryphe/mythomax-l2-13b",
  messages: [{ role: "user", content: "Привет" }],
});

console.log(response.choices[0].message.content);

import OpenAI from "openai";const client = new OpenAI({  baseURL: "https://api.hubris.pw/v1",  apiKey: process.env.HUBRIS_API_KEY!,});const response = await client.chat.completions.create({  model: "gryphe/mythomax-l2-13b",  messages: [{ role: "user", content: "Привет" }],});console.log(response.choices[0].message.content);