Dify
Подключение Hubris к Dify — низкокодовой LLM-платформе для построения чат-приложений, агентов и workflow.
Dify — open-source платформа для построения LLM-приложений: чат-боты, AI-агенты, RAG-workflow. Поддерживает self-hosted и облачный (cloud.dify.ai) режимы. Hubris подключается как провайдер типа OpenAI-API-compatible — модели Hubris становятся доступны во всех приложениях.
Требования
- Аккаунт на cloud.dify.ai или self-hosted Dify
- Аккаунт на hubris.pw и API-ключ
Подключение
- В Dify откройте Settings → Model Providers.
- Найдите в списке OpenAI-API-compatible и нажмите Add Model.
- Заполните поля:
| Поле | Значение |
|---|---|
| Model Type | LLM (для chat-моделей) |
| Model Name | ID модели из нашего каталога, например anthropic/claude-haiku-4.5 |
| API Key | ваш ключ из личного кабинета Hubris |
| API endpoint URL | https://api.hubris.pw/v1 |
| Completion mode | Chat |
| Model context size | размер контекста модели (см. карточку в каталоге) |
| Maximum chunks | 1 |
- Сохраните. Модель появится в списке доступных в Dify.
Чтобы добавить ещё модели — повторите для каждой. Один ключ Hubris работает на все.
Использование в приложениях
После подключения модель Hubris доступна везде, где Dify предлагает выбор LLM:
- AI Chatflow — собранный из блоков чат-агент.
- LLM-блок в Workflow — точка вызова модели в произвольном workflow.
- Agent app — приложение с инструментами и многошаговыми сценариями.
- Knowledge / RAG — встраивание модели в retrieval-цепочки.
В каждом блоке выбираете подключённого провайдера (OpenAI-API-compatible) и нужную модель.
Рекомендуемые модели
| ID | Когда подходит |
|---|---|
anthropic/claude-haiku-4.5 | быстрые чат-боты, классификация |
openai/gpt-4o-mini | универсальный недорогой выбор, поддержка structured output |
google/gemini-2.0-flash | мультимодальные приложения |
Для агентов и сложных reasoning-задач — Claude Sonnet/Opus из каталога. Используйте фильтр «tool calling» для агентских сценариев.
Streaming и Function Calling
Dify работает с обоими по умолчанию — stream: true идёт в наш /v1/chat/completions, tools прокидываются без дополнительной настройки. Никаких отдельных флагов в Dify включать не надо.
Embeddings для RAG
Для retrieval-сценариев в Dify нужен отдельный provider типа Text Embedding. Добавьте ещё одну запись OpenAI-API-compatible, но с Model Type = Text Embedding, указав модель-эмбеддер из нашего каталога. API endpoint и ключ — те же, что и для LLM-провайдера.
Решение проблем
Provider добавлен, но Dify не видит модели
- Перепроверьте API endpoint URL — должен быть
https://api.hubris.pw/v1(с/v1в конце, без trailing slash). - Убедитесь, что Model Name точно совпадает с ID из каталога Hubris.
Invalid API key при тестовом запросе
- API-ключ должен начинаться с
sk-gw-и не содержать пробелов.
Модель работает, но контекст «обрывается» / ответы короткие
- Проверьте поле Model context size — оно должно соответствовать реальному контексту модели (карточка в каталоге).
- Поле Maximum chunks относится к чанкам контекста в RAG — оставьте
1для обычных чат-сценариев.
Streaming не работает в Workflow
- В настройках LLM-блока должно быть включено Stream Mode. Если выключено — ответ приходит одним куском в конце.
Что дальше
- Каталог моделей — IDs для подключения в Dify.
- Управление API-ключами — отдельный ключ под Dify-приложение.
- Расходы — детализация по запросам.
- Структурированный вывод — стабильные JSON-ответы в workflow.
Обновлено: