Hubris
Скачать из Google PlayСкачайте из RuStore
hubris

Гайды22 ноября 2026 г.9 мин чтения

Локальная нейросеть или облачная модель: что даёт запуск на своём компьютере

Что реально запускается на домашнем железе в 2026 году, сколько памяти требуют открытые модели и чем тот же Qwen 3.8 27B отличается при работе через API.

Локальная нейросеть или облачная модель: что даёт запуск на своём компьютере

Локальная нейросеть имеет смысл, когда данные не должны покидать ваш компьютер, а подходящее железо уже есть. Во всех остальных случаях та же открытая модель через API даёт больше контекста, не требует покупки видеопамяти и не ломается на обновлении разговорного движка. Ниже — что реально запускается дома в 2026 году, сколько это стоит по памяти и где заканчиваются возможности локального запуска.

Что называют локальной нейросетью в 2026 году

Локальная нейросеть — это модель с открытыми весами, файлы которой лежат на вашем диске, а вычисления идут на вашем процессоре или видеокарте. Сеть нужна только для того, чтобы скачать модель; после загрузки запросы никуда не уходят.

В 2026 году четыре заметные открытые модели распространяются под лицензией Apache 2.0 и прямо рассчитаны на пользовательское железо:

  • Gemma 4 12B от Google, выпущена 3 июня 2026 года. Контекст 256 000 токенов, расчёт на компьютеры и ноутбуки с 16 ГБ оперативной памяти и больше. На входе — текст, изображения, видео и аудио, на выходе — текст. Архитектура без отдельных энкодеров: визуальные и звуковые данные проецируются прямо в пространство эмбеддингов языковой модели.
  • Qwen 3.8 27B от Alibaba, выпущена 14 августа 2026 года. Плотная модель на 27,78 млрд параметров, контекст 262 144 токена с расширением до 1 млн через YaRN, лимит ответа до 66 000 токенов. Принимает текст, изображения и видео.
  • Mistral Small 4 от Mistral AI, выпущена 16 марта 2026 года. Смесь экспертов на 119 млрд параметров, из которых на каждом токене активны 6–6,5 млрд. Контекст 256 000 токенов, на входе текст и изображения.
  • Muse Glimmer 30B от Meta, выпущена 10 августа 2026 года — первая локальная модель компании под новым брендом Muse вместо Llama. Контекст 131 072 токена, рассчитана на сложные агентские задачи на одном GPU с 24 ГБ памяти или на Mac.

Сколько памяти нужно и что это значит на практике

Требования к памяти различаются сильнее, чем размер модели в параметрах.

Gemma 4 12B — самая доступная из четвёрки: разработчик указывает порог в 16 ГБ оперативной памяти. Этого достаточно, чтобы запустить модель на обычном ноутбуке, но не на любом: часть памяти заберёт система и приложения.

Qwen 3.8 27B — плотная модель, то есть все 27,78 млрд параметров участвуют в вычислении каждого токена. Механизм внимания Gated DeltaNet работает на 48 из 64 слоёв, поэтому объём памяти под KV-кэш не растёт при удлинении диалога. Это помогает на длинных переписках, но не отменяет требований к памяти под сами веса.

Mistral Small 4 устроена иначе: 119 млрд параметров хранятся целиком, а на каждом токене работают только 6–6,5 млрд. Смесь экспертов снижает вычисления на токен, но не объём памяти, который занимают веса модели.

Muse Glimmer 30B разработчик прямо описывает как модель для одного GPU на 24 ГБ или для Mac — это самый конкретный ориентир по железу среди четырёх.

Четыре открытые модели и требования к памяти локального запуска

Ограничения, которые проявляются сразу

Локальный запуск — это не только загрузка файла модели. У каждой из четырёх моделей есть условие, о котором узнают уже после установки.

У Qwen 3.8 27B режим глубоких рассуждений xhigh по умолчанию замедляет работу на пользовательском оборудовании. На серверной видеопамяти это незаметно, на домашней — превращает ответ в долгое ожидание.

Mistral Small 4 при развёртывании через vLLM временно требует кастомного Docker-образа: без него некорректно работают вызов инструментов и разбор рассуждений. Это ограничение самого способа запуска, а не модели.

Muse Glimmer 30B не принимает аудио, а видео — только отдельными кадрами. Gemma 4 12B, наоборот, обрабатывает сырой звук напрямую, но нативный аудиоввод есть только у версий E2B, E4B и 12B, а не у всех моделей семейства.

Наконец, локальная модель не обновляется сама. Новая версия — это снова скачивание весов, проверка совместимости с движком и повторная настройка.

Та же модель через API: что меняется

Самое наглядное сравнение — одна и та же открытая модель дома и через API. Qwen 3.8 27B есть и в виде файлов для локального запуска, и в каталоге Hubris.

Локально у неё контекст 262 144 токена, а 1 млн достигается расширением YaRN. Через API та же модель принимает 1 024 000 токенов без настройки. Локально вы сами отвечаете за память, драйверы и совместимость движка; через API запрос уходит на чужое железо, а вы получаете ответ.

Цена Qwen3.8 27B через API — от 7,57 ₽ за 1 млн входных токенов и от 247,42 ₽ за 1 млн выходных. Модель обслуживают несколько провайдеров, поэтому каталог показывает самую низкую цену, а потолок — 124,97 ₽ на входе и 403,96 ₽ на выходе: конкретный запрос может попасть к провайдеру дороже. Для сравнения, предыдущая Qwen3.6 27B стоила 40,4 ₽ на входе и 403,96 ₽ на выходе при контексте 262 144 токена.

По нашим замерам живых запросов за 30 дней Qwen3.8 27B через API отвечает за 2,58 секунды до первого байта, доля ошибок — 0,3%, средняя стоимость запроса — 0,93 ₽. Это не скорость генерации, а именно время до начала ответа.

Одна модель на локальном диске и в облаке через API

Локальный запуск и API: сравнение по числам

Ниже — условия локального запуска по данным разработчиков и параметры тех же или соседних моделей в каталоге. Числа контекста и модальностей у локальной и облачной версии могут отличаться: провайдер вправе расширить окно или ограничить набор входных данных.

МодельЛокальный запускКонтекст локальноВход локально
Gemma 4 12BПК или ноутбук с 16 ГБ ОЗУ и больше256 000текст, изображение, видео, аудио
Qwen 3.8 27Bплотная, 27,78 млрд параметров262 144, до 1 млн через YaRNтекст, изображение, видео
Mistral Small 4смесь экспертов, 119 млрд параметров256 000текст, изображение
Muse Glimmer 30Bодин GPU на 24 ГБ или Mac131 072текст, изображение
Модель через APIКонтекстВход, ₽ за 1 млнВыход, ₽ за 1 млн
Qwen3.8 27B1 024 000от 7,57от 247,42
Gemma 4 31B262 14425,2550,50
Mistral Small 2603262 14418,9475,75
Muse Glimmer 30B131 07244,19189,36

Обратите внимание: Gemma 4 31B в каталоге — другая модель, не та 12B, что запускается локально. Это ближайшая по семейству версия, доступная через API.

Можно ли запустить локальную нейросеть на ноутбуке

Да, но с оговорками. Gemma 4 12B рассчитана на 16 ГБ оперативной памяти — это уровень современных ноутбуков, а не специализированных станций. Qwen 3.8 27B и Mistral Small 4 уже требуют заметно большего запаса памяти под веса, а Muse Glimmer 30B разработчик привязывает к GPU на 24 ГБ или к Mac. Поэтому «локальная нейросеть на ПК» на практике чаще означает Gemma 4 12B, а не самую крупную из доступных моделей.

Кому подходит локальный запуск, а кому — API

Локальный запуск оправдан в трёх случаях: данные по условиям работы не могут покидать вашу инфраструктуру, нужна работа без сети, и железо уже есть — не покупается специально под модель. Тогда вы получаете полный контроль над версией модели и отсутствие сетевых задержек между вами и вычислением.

API выигрывает, когда нужен большой контекст без настройки, несколько моделей на выбор, предсказуемое время до первого байта и отсутствие обслуживания драйверов. Для Qwen 3.8 27B разница видна прямо в числах: 262 144 токена локально против 1 024 000 через API при одной и той же модели.

Смешанный вариант тоже рабочий: держать локальную модель для чувствительных задач и обращаться к API для длинных документов и тяжёлых запросов. Главное — не выбирать локальный запуск только потому, что веса открыты: открытая лицензия не отменяет требований к памяти и ограничений движка.

Частые вопросы

Скачать локальную нейросеть или работать через API — что проще

Проще через API: не нужно скачивать веса, подбирать движок и следить за памятью. Локальный вариант сложнее в настройке, но не требует передачи данных наружу. Выбор зависит от того, что для вас важнее — контроль над данными или время на запуск.

Все модели из статьи доступны в Hubris — единый API, оплата в рублях.

Читайте также