WizardLM-2 8x22B

microsoft/wizardlm-2-8x22b

Выпущена 16 апреля 2024 г.|66К контекст|70,03 ₽/М вход|70,03 ₽/М выход

WizardLM-2 8x22B — это самая передовая модель Wizard от Microsoft AI. Она демонстрирует высококонкурентную производительность по сравнению с ведущими проприетарными моделями и стабильно превосходит все существующие современные opensource-модели.

Это instruct fine-tune модель Mixtral 8x22B.

Чтобы узнать больше о выпуске модели, нажмите здесь.

#moe

Провайдер для WizardLM-2 8x22B

Hubris маршрутизирует запросы к лучшему доступному провайдеру с автоматическим fallback при сбоях.

microsoft

Latency

—

Throughput

—

Uptime

—

Контекст

66К

токенов

Макс. ответ

8К

токенов

Вход

70,03 ₽

за 1М токенов

Выход

70,03 ₽

за 1М токенов

Модальности

Вход:ТекстВыход:Текст

Провайдеры

Запросы обслуживает один из провайдеров ниже — маршрутизация автоматически выбирает оптимального по доступности и скорости в момент запроса. Итоговая стоимость зависит от того, какой провайдер обслужил запрос, и от попадания в кэш: при повторяющемся контексте вход тарифицируется по цене чтения кэша — до 60–80 % дешевле. Цены — в рублях за 1 млн токенов.


Novita	70,03 ₽	70,03 ₽	—	—	100,0 %

Поддерживаемые параметры

frequency_penaltymax_tokenspresence_penaltyrepetition_penaltyresponse_formatseedstoptemperaturetop_ktop_p

Тарификация для WizardLM-2 8x22B

Цены в рублях за 1 млн токенов. Списание — за реальные токены, без подписок.

Тип	Цена в ₽	Единица
Вход	70,03 ₽	за 1М токенов
Выход	70,03 ₽	за 1М токенов

Пример кода и API для WizardLM-2 8x22B

Hubris — OpenAI-совместимый API. Используйте любой OpenAI SDK, поменяв только base URL и ключ.

Получить API-ключ

curl https://api.hubris.pw/v1/chat/completions \
  -H "Authorization: Bearer sk-gw-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "microsoft/wizardlm-2-8x22b",
    "messages": [{"role": "user", "content": "Привет"}]
  }'

curl https://api.hubris.pw/v1/chat/completions \  -H "Authorization: Bearer sk-gw-..." \  -H "Content-Type: application/json" \  -d '{    "model": "microsoft/wizardlm-2-8x22b",    "messages": [{"role": "user", "content": "Привет"}]  }'

from openai import OpenAI

client = OpenAI(
    base_url="https://api.hubris.pw/v1",
    api_key="sk-gw-...",
)

response = client.chat.completions.create(
    model="microsoft/wizardlm-2-8x22b",
    messages=[{"role": "user", "content": "Привет"}],
)
print(response.choices[0].message.content)

from openai import OpenAIclient = OpenAI(    base_url="https://api.hubris.pw/v1",    api_key="sk-gw-...",)response = client.chat.completions.create(    model="microsoft/wizardlm-2-8x22b",    messages=[{"role": "user", "content": "Привет"}],)print(response.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.hubris.pw/v1",
  apiKey: process.env.HUBRIS_API_KEY!,
});

const response = await client.chat.completions.create({
  model: "microsoft/wizardlm-2-8x22b",
  messages: [{ role: "user", content: "Привет" }],
});

console.log(response.choices[0].message.content);

import OpenAI from "openai";const client = new OpenAI({  baseURL: "https://api.hubris.pw/v1",  apiKey: process.env.HUBRIS_API_KEY!,});const response = await client.chat.completions.create({  model: "microsoft/wizardlm-2-8x22b",  messages: [{ role: "user", content: "Привет" }],});console.log(response.choices[0].message.content);

Другие модели от microsoft

Microsoft: MAI-Voice-2-Flash

MAI-Voice-2-Flash — это модель преобразования текста в речь с низкой задержкой от Microsoft, предназначенная для голосовых агентов, ассистентов, колл-центров, обеспечения доступности, озвучивания и других интерактивных приложений. Она генерирует выразительную монофоническую речь с частотой 24 кГц на 15 языках...

— контекст·1 694,39 ₽ за 1М символов

Microsoft: MAI-Voice-2

MAI-Voice-2 — это выразительная модель преобразования текста в речь от Microsoft. Она подходит для разговорных помощников, озвучивания медиа, обеспечения доступности, образования и других голосовых приложений с длинными текстами. Она поддерживает 15 языков в 18 регионах...

— контекст·2 485,10 ₽ за 1М символов

Microsoft: MAI-Transcribe 1.5

MAI-Transcribe 1.5 — это многоязычная модель преобразования речи в текст от Microsoft AI. Она подходит для создания субтитров, транскрибирования звонков, обеспечения доступности и других голосовых приложений, предлагая надёжную транскрипцию на 43 языках, разнообразные...

— контекст·40,67 ₽ за час

Microsoft: Phi 4

[Microsoft Research](/microsoft) Phi-4 разработан для эффективного выполнения сложных задач рассуждения и может эффективно работать в условиях ограниченной памяти или там, где требуются быстрые ответы. Модель с 14 миллиардами параметров обучалась на сочетании высококачественных синтетических наборов данных, данных с тщательно отобранных веб-сайтов и академических материалов. Она прошла тщательную доработку для точного следования инструкциям и поддержания высоких стандартов безопасности. Наилучшие результаты достигаются при использовании входных данных на английском языке. Для получения дополнительной информации, пожалуйста, ознакомьтесь с [Техническим отчетом Phi-4](https://arxiv.org/pdf/2412.08905)

16К контекст·от 7,91 ₽/М