Mistral: Mixtral 8x22B Instruct

mistralai/mixtral-8x22b-instruct

Выпущена 17 апреля 2024 г.|66К контекст|225,92 ₽/М вход|677,75 ₽/М выход

Официальная инструктивная fine-tuned версия Mixtral 8x22B от Mistral. Она использует 39 миллиардов активных параметров из 141 миллиарда, предлагая беспрецедентную экономическую эффективность для своего размера. Её сильные стороны включают:

сильные математические способности, навыки кодирования и рассуждения
большая длина контекста (64k)
свободное владение английским, французским, итальянским, немецким и испанским языками

Смотрите результаты бенчмарков в объявлении о запуске здесь. #moe

Провайдер для Mistral: Mixtral 8x22B Instruct

Hubris маршрутизирует запросы к лучшему доступному провайдеру с автоматическим fallback при сбоях.

mistralai

Latency

—

Throughput

—

Uptime

—

Контекст

66К

токенов

Макс. ответ

—

Вход

225,92 ₽

за 1М токенов

Выход

677,75 ₽

за 1М токенов

Кеш чтение

22,59 ₽

за 1М токенов

Модальности

Вход:ТекстФайлыВыход:Текст

Провайдеры

Запросы обслуживает один из провайдеров ниже — маршрутизация автоматически выбирает оптимального по доступности и скорости в момент запроса. Итоговая стоимость зависит от того, какой провайдер обслужил запрос, и от попадания в кэш: при повторяющемся контексте вход тарифицируется по цене чтения кэша — до 60–80 % дешевле. Цены — в рублях за 1 млн токенов.


Mistral	225,92 ₽	677,75 ₽	22,59 ₽	—	100,0 %

Поддерживаемые параметры

frequency_penaltymax_tokenspresence_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_p

Тарификация для Mistral: Mixtral 8x22B Instruct

Цены в рублях за 1 млн токенов. Списание — за реальные токены, без подписок.

Тип	Цена в ₽	Единица
Вход	225,92 ₽	за 1М токенов
Выход	677,75 ₽	за 1М токенов
Кэш: чтение	22,59 ₽	за 1М токенов

Пример кода и API для Mistral: Mixtral 8x22B Instruct

Hubris — OpenAI-совместимый API. Используйте любой OpenAI SDK, поменяв только base URL и ключ.

Получить API-ключ

curl https://api.hubris.pw/v1/chat/completions \
  -H "Authorization: Bearer sk-gw-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistralai/mixtral-8x22b-instruct",
    "messages": [{"role": "user", "content": "Привет"}]
  }'

curl https://api.hubris.pw/v1/chat/completions \  -H "Authorization: Bearer sk-gw-..." \  -H "Content-Type: application/json" \  -d '{    "model": "mistralai/mixtral-8x22b-instruct",    "messages": [{"role": "user", "content": "Привет"}]  }'

from openai import OpenAI

client = OpenAI(
    base_url="https://api.hubris.pw/v1",
    api_key="sk-gw-...",
)

response = client.chat.completions.create(
    model="mistralai/mixtral-8x22b-instruct",
    messages=[{"role": "user", "content": "Привет"}],
)
print(response.choices[0].message.content)

from openai import OpenAIclient = OpenAI(    base_url="https://api.hubris.pw/v1",    api_key="sk-gw-...",)response = client.chat.completions.create(    model="mistralai/mixtral-8x22b-instruct",    messages=[{"role": "user", "content": "Привет"}],)print(response.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.hubris.pw/v1",
  apiKey: process.env.HUBRIS_API_KEY!,
});

const response = await client.chat.completions.create({
  model: "mistralai/mixtral-8x22b-instruct",
  messages: [{ role: "user", content: "Привет" }],
});

console.log(response.choices[0].message.content);

import OpenAI from "openai";const client = new OpenAI({  baseURL: "https://api.hubris.pw/v1",  apiKey: process.env.HUBRIS_API_KEY!,});const response = await client.chat.completions.create({  model: "mistralai/mixtral-8x22b-instruct",  messages: [{ role: "user", content: "Привет" }],});console.log(response.choices[0].message.content);

Другие модели от mistralai

Mistral: Voxtral Mini Transcribe

Voxtral Mini Transcribe — это модель преобразования речи в текст от Mistral, разработанная на основе семейства Voxtral Mini. Она принимает аудиовход и возвращает расшифрованный текст через стандартный API транскрипции. Подходит для транскрибирования встреч,...

— контекст·0,340 ₽ за минуту

Mistral: Mistral Medium 3.5

Mistral Medium 3.5 — это плотная 128B модель от Mistral AI, следующая инструкциям. Она поддерживает текстовые и графические входные данные с текстовым выводом и предназначена для агентских рабочих процессов, кодирования и сложного многоэтапного рассуждения. Она особенно сильна в надежном вызове нескольких инструментов и долгосрочных задачах, имеет контекстное окно 256K, настраиваемое усилие рассуждения на запрос и настраиваемый vision encoder, который обрабатывает переменные размеры и соотношения сторон изображений. Может быть размещена на собственном сервере всего на четырех графических процессорах и доступна под открытыми весами.

262К контекст·от 169,44 ₽/М

Mistral: Voxtral Mini TTS

Voxtral Mini TTS — это модель преобразования текста в речь от Mistral, поддерживающая клонирование голоса с нулевым обучением и многоязычность. Она преобразует текстовый ввод в естественно звучащий аудиовыход.

4К контекст·1 807,35 ₽ за 1М символов

Mistral: Mistral Small 4

Mistral Small 4 — это следующий крупный релиз в семействе Mistral Small, объединяющий возможности нескольких флагманских моделей Mistral в единую систему. Он сочетает в себе мощные способности к рассуждению от Magistral, мультимодальное понимание от Pixtral и агентские возможности кодирования от Devstral, что позволяет одной модели обрабатывать сложный анализ, разработку программного обеспечения и визуальные задачи в рамках одного рабочего процесса.

262К контекст·от 16,94 ₽/М

Mistral: Ministral 3 14B 2512

Крупнейшая модель в семействе Ministral 3, Ministral 3 14B, предлагает передовые возможности и производительность, сравнимую с её более крупным аналогом Mistral Small 3.2 24B. Мощная и эффективная языковая модель с возможностями зрения.

262К контекст·от 22,59 ₽/М

Mistral: Ministral 3 8B 2512

Сбалансированная модель в семействе Ministral 3, Ministral 3 8B — это мощная, эффективная миниатюрная языковая модель с возможностями зрения.

262К контекст·от 16,94 ₽/М