Dify с Claude и GPT через OpenAI-совместимый API

Dify — платформа с открытым исходным кодом для создания LLM-приложений: чат-ботов, агентов, workflow и приложений с базой знаний (RAG). Можно пользоваться Dify Cloud или развернуть Dify у себя через Docker.

Dify обращается к моделям через плагины провайдеров моделей, которые устанавливаются из Dify Marketplace. Каждый провайдер хранит ключ и адрес для всего рабочего пространства, а менять их могут только владельцы и администраторы пространства. Провайдеры находятся на странице Model Provider: в текущем Dify Cloud — в разделе Integrations, в старых self-hosted версиях — в Settings в меню аккаунта. Названия полей ниже проверены в октябре 2026 года по документации Dify и исходному коду официальных плагинов openai_api_compatible (версия 0.0.68) и anthropic.

Начните с OpenAI-API-compatible. ID каждой модели вы вводите сами, поэтому новые модели работают сразу, как только появляются в списке APIVAI. Общие сведения об обоих форматах — на страницах OpenAI-совместимый API и прокси Claude API.

1. Зарегистрируйтесь по email
2. Пополните баланс от $10 картой, криптовалютой, через Alipay или WeChat Pay
3. Создайте ключ в Панели и скопируйте его. Задайте ему лимит бюджета, если в одном пространстве приложения создают несколько человек.

1. Откройте страницу Model Provider.
2. В списке провайдеров, доступных для установки (или на Dify Marketplace), найдите OpenAI-API-compatible и нажмите Install.

На карточке OpenAI-API-compatible нажмите Add Model и заполните форму:

Остальные поля оставьте по умолчанию. В старых версиях плагина поле адреса называется API endpoint URL; значение то же.

Несколько пояснений к полям:

• Model Name — то, что Dify отправляет в API, поэтому здесь нужен точный ID. Отображаемое имя нужно только для интерфейса.
• Model context size — число, на которое Dify ориентируется, когда помещает в промпт историю диалога и найденные фрагменты знаний. Значение меньше реального окна модели допустимо и делает длинные диалоги дешевле.
• Upper bound for max tokens задаёт лишь верхнюю границу параметра Max Tokens в ваших приложениях. Размышление (thinking) включено по умолчанию, и его токены считаются выходными, поэтому оставьте запас выше 4096.
• Function Call Type: Tool Call позволяет приложениям-агентам использовать нативный вызов инструментов, который APIVAI поддерживает.

Нажмите Save. Перед сохранением модели Dify проверяет учётные данные тестовым запросом. Повторите Add Model для каждой нужной модели, например gpt-5.5 и claude-haiku-4-5, с тем же ключом и адресом.

• В приложении откройте выбор модели, выберите свою модель в группе OpenAI-API-compatible и задайте в её параметрах Max Tokens 4096 или больше.
• В workflow у каждого узла LLM своя модель, поэтому дешёвые и сильные модели могут работать в одном процессе.
• В разделе Default Models на странице Model Provider задайте System Reasoning Model — модель по умолчанию для общих LLM-задач пространства.

1. Установите плагин провайдера Anthropic и откройте его настройку.
2. В API Key вставьте ключ APIVAI, в API URL укажите:

Не добавляйте /v1: плагин передаёт этот адрес клиенту Anthropic, который сам добавляет /v1/messages. Параметр Enable request metadata оставьте в положении Disabled.

1. В плагине есть встроенный список моделей Claude. Часть ID в нём совпадает с ID в APIVAI, например claude-sonnet-4-6; другие названы иначе или с датой. Если модели нет в списке или она возвращает «model not found», нажмите Add Model на карточке Anthropic и введите точный ID из списка APIVAI, например claude-opus-5-5.

Цены за 1M входных / выходных токенов на 2026-10-07:

Список моделей со временем меняется. Берите ID со страницы цен или из API:

Два примера, токены размышления учтены как выходные:

• Чат-бот поддержки: 300 сообщений в день на Claude Sonnet 4.6, каждое примерно 3 000 входных токенов (системный промпт, недавняя история и найденные знания) и 600 выходных. Месяц, 9 000 сообщений, обойдётся в $56.27 против $162 по официальным ценам. Тот же месяц на GPT-6 Luna стоил бы $0.804.
• Маршрутизирующий workflow: узел Question Classifier на Claude Haiku 4.5 сортирует 1 000 запросов в день, примерно по 800 входных и 300 выходных токенов. Месяц, 30 000 вызовов, стоит $24.06 против $69.00 по официальным ценам.

Поиск по базе знаний увеличивает каждый запрос, поэтому количество извлекаемых фрагментов влияет на цену не меньше, чем выбор модели. Токены по каждому запросу видны и в логах Dify, и в Панели APIVAI. Более широкое сравнение цен — в статье Цены Claude API в 2026 году.

Только для генерации ответа. Базе знаний Dify нужна Embedding Model для индексации и поиска документов, а APIVAI не предоставляет эмбеддинги. Установите отдельного провайдера эмбеддингов и выберите его в Default Models → Embedding Model (Rerank Model необязательна и тоже берётся у другого провайдера). LLM, которая пишет ответ по найденному тексту, по-прежнему может быть моделью APIVAI.

• Проверка учётных данных не проходит или 401: убедитесь, что ключ скопирован целиком, не удалён и на балансе или в бюджете ключа остались средства.
• 404: неверно указан /v1. API Base URL в OpenAI-API-compatible должен быть https://api.apivai.com/v1, с /v1 один раз. API URL в плагине Anthropic должен быть https://api.apivai.com; с /v1 запросы уходят на /v1/v1/messages.
• Model not found: в Model Name должен быть точный ID, например claude-sonnet-4-6, а не отображаемое название. Сверьтесь с /v1/models.
• Пустые или обрезанные ответы: увеличьте Max Tokens в приложении до 4096 или больше, а если ползунок упирается в предел — поднимите Upper bound for max tokens в записи модели.
• Агент не вызывает инструменты: отредактируйте запись модели и задайте Function Call Type = Tool Call.
• Self-hosted Dify не может подключиться: контейнерам Dify, в которых работают плагины, нужен исходящий доступ в интернет к api.apivai.com.
• 429 Too Many Requests: по умолчанию лимит — 60 запросов в минуту на ключ. Пакетные workflow могут в него упереться; замедлите их или попросите поддержку поднять лимит.

Нет. Один провайдер OpenAI-API-compatible хранит все ваши модели: вы добавляете по одной записи на каждый ID с тем же ключом и API Base URL.

Да. В обоих используются одни и те же плагины провайдеров и поля. Self-hosted экземпляру нужен исходящий доступ к api.apivai.com.

Да. Каждый узел LLM выбирает свою модель, а один ключ APIVAI подходит для всех моделей.

Нет. APIVAI не предоставляет эмбеддинги, поэтому Knowledge в Dify нужен отдельный провайдер эмбеддингов. Чат, агенты и узлы LLM в workflow работают через APIVAI.

Содержимое запросов и ответов не логируется. Для биллинга хранятся только данные об использовании: модель, токены и стоимость. О ключах и лимитах — в документации. Если вы также автоматизируете процессы в n8n, см. n8n с Claude и GPT.

Создайте аккаунт, пополните баланс от $10 и вставьте ключ в Dify.