WizardLM-2 8x22B

microsoft/wizardlm-2-8x22b

Выпущена 16 апреля 2024 г.|66К контекст|65,79 ₽/М вход|65,79 ₽/М выход

WizardLM-2 8x22B — это самая передовая модель Wizard от Microsoft AI. Она демонстрирует высококонкурентную производительность по сравнению с ведущими проприетарными моделями и стабильно превосходит все существующие современные opensource-модели.

Это instruct fine-tune модель Mixtral 8x22B.

Чтобы узнать больше о выпуске модели, нажмите здесь.

#moe

Провайдер для WizardLM-2 8x22B

Hubris маршрутизирует запросы к лучшему доступному провайдеру с автоматическим fallback при сбоях.

microsoft

Latency

—

Throughput

—

Uptime

—

Контекст

66К

токенов

Макс. ответ

8К

токенов

Вход

65,79 ₽

за 1М токенов

Выход

65,79 ₽

за 1М токенов

Модальности

Вход:ТекстВыход:Текст

Поддерживаемые параметры

frequency_penaltymax_tokenspresence_penaltyrepetition_penaltyresponse_formatseedstoptemperaturetop_ktop_p

Тарификация для WizardLM-2 8x22B

Цены в рублях за 1 млн токенов. Списание — за реальные токены, без подписок.

Тип	Цена в ₽	Единица
Вход	65,79 ₽	за 1М токенов
Выход	65,79 ₽	за 1М токенов

Пример кода и API для WizardLM-2 8x22B

Hubris — OpenAI-совместимый API. Используйте любой OpenAI SDK, поменяв только base URL и ключ.

Получить API-ключ

curl https://api.hubris.pw/v1/chat/completions \
  -H "Authorization: Bearer sk-gw-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "microsoft/wizardlm-2-8x22b",
    "messages": [{"role": "user", "content": "Привет"}]
  }'

curl https://api.hubris.pw/v1/chat/completions \  -H "Authorization: Bearer sk-gw-..." \  -H "Content-Type: application/json" \  -d '{    "model": "microsoft/wizardlm-2-8x22b",    "messages": [{"role": "user", "content": "Привет"}]  }'

from openai import OpenAI

client = OpenAI(
    base_url="https://api.hubris.pw/v1",
    api_key="sk-gw-...",
)

response = client.chat.completions.create(
    model="microsoft/wizardlm-2-8x22b",
    messages=[{"role": "user", "content": "Привет"}],
)
print(response.choices[0].message.content)

from openai import OpenAIclient = OpenAI(    base_url="https://api.hubris.pw/v1",    api_key="sk-gw-...",)response = client.chat.completions.create(    model="microsoft/wizardlm-2-8x22b",    messages=[{"role": "user", "content": "Привет"}],)print(response.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.hubris.pw/v1",
  apiKey: process.env.HUBRIS_API_KEY!,
});

const response = await client.chat.completions.create({
  model: "microsoft/wizardlm-2-8x22b",
  messages: [{ role: "user", content: "Привет" }],
});

console.log(response.choices[0].message.content);

import OpenAI from "openai";const client = new OpenAI({  baseURL: "https://api.hubris.pw/v1",  apiKey: process.env.HUBRIS_API_KEY!,});const response = await client.chat.completions.create({  model: "microsoft/wizardlm-2-8x22b",  messages: [{ role: "user", content: "Привет" }],});console.log(response.choices[0].message.content);

Другие модели от microsoft

Microsoft: Phi 4 Mini Instruct

Phi-4-mini-instruct — это легковесная открытая модель, построенная на синтетических данных и отфильтрованных общедоступных веб-сайтах, с акцентом на высококачественные, насыщенные рассуждениями данные. Модель принадлежит к семейству моделей Phi-4 и поддерживает длину контекста в 128K токенов. Модель прошла процесс улучшения, включающий как контролируемую fine-tuning, так и прямую оптимизацию предпочтений для обеспечения точного следования инструкциям и надёжных мер безопасности.

131К контекст·от 8,49 ₽/М

Microsoft: Phi 4

[Microsoft Research](/microsoft) Phi-4 разработан для эффективного выполнения сложных задач рассуждения и может эффективно работать в условиях ограниченной памяти или там, где требуются быстрые ответы. Модель с 14 миллиардами параметров обучалась на сочетании высококачественных синтетических наборов данных, данных с тщательно отобранных веб-сайтов и академических материалов. Она прошла тщательную доработку для точного следования инструкциям и поддержания высоких стандартов безопасности. Наилучшие результаты достигаются при использовании входных данных на английском языке. Для получения дополнительной информации, пожалуйста, ознакомьтесь с [Техническим отчетом Phi-4](https://arxiv.org/pdf/2412.08905)

16К контекст·от 6,90 ₽/М