Guia de Hospedagem Dify GPU 2026 — Execute LLMs Locais com Dify

Por que executar o Dify em um servidor GPU?

Conectar o Dify a um LLM hospedado localmente via Ollama ou LocalAI elimina completamente a dependência de provedores de IA em nuvem. Veja o que você ganha:

Comparativo de Provedores de GPU em Nuvem

Os preços são tarifas aproximadas sob demanda no início de 2026. Instâncias reservadas e spot costumam ser mais baratas.

Antes de instalar o Dify ou o Ollama, você precisa dos drivers NVIDIA CUDA e do Container Toolkit para que os contêineres Docker possam acessar a GPU.

Instalar o CUDA Toolkit 12.3

# Verificar se o driver NVIDIA já está instalado
nvidia-smi

# Se não estiver instalado, adicione o repositório NVIDIA
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt update

# Instalar o CUDA toolkit (inclui drivers)
sudo apt install -y cuda-toolkit-12-3

# Reinicialização necessária após instalar o driver
sudo reboot

Verificar a GPU e Configurar o Docker

# Após reinicialização, verificar se a GPU é detectada
nvidia-smi

# Instalar o NVIDIA Container Toolkit (para acesso à GPU pelo Docker)
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
sudo apt update && sudo apt install -y nvidia-container-toolkit
sudo nvidia-ctk runtime configure --runtime=docker
sudo systemctl restart docker

Após executar nvidia-smi, você deverá ver sua GPU listada com a versão do driver e a VRAM. Se o Docker puder usar --gpus all, você está pronto para o próximo passo.

O Ollama é a forma mais fácil de servir LLMs de código aberto na sua GPU. Ele detecta automaticamente o CUDA e usa a GPU para inferência.

Instalar o Ollama e Baixar Modelos

# Instalar o Ollama (instalador em uma linha)
curl -fsSL https://ollama.com/install.sh | sh

# Verificar se o Ollama está em execução
ollama list

# Baixar modelos LLM
ollama pull llama3.1:8b
ollama pull mistral:7b
ollama pull codellama:13b

# Testar um modelo
ollama run llama3.1:8b "Olá, o que você pode fazer?"

Vincular o Ollama a Todas as Interfaces de Rede

Por padrão, o Ollama escuta apenas no localhost. Para torná-lo acessível a partir dos contêineres Docker do Dify, você precisa vinculá-lo a 0.0.0.0:

# Editar o serviço systemd do Ollama para vincular a todas as interfaces
sudo systemctl edit ollama --force --full

# Localize a seção [Service] e adicione:
# Environment="OLLAMA_HOST=0.0.0.0:11434"

# Aplicar as alterações
sudo systemctl daemon-reload
sudo systemctl restart ollama

Configurar o docker-compose.override.yaml

Crie ou edite o docker-compose.override.yaml no diretório do Dify para que os contêineres possam resolver host.docker.internal para a máquina host no Linux:

services:
  api:
    extra_hosts:
      - "host.docker.internal:host-gateway"
  worker:
    extra_hosts:
      - "host.docker.internal:host-gateway"

Com o Ollama em execução e acessível, adicione-o como provedor de modelo no Dify:

1. Abra sua instância do Dify e clique no seu avatar no canto superior direito.
2. Acesse Configurações e depois Provedor de Modelos.
3. Role para baixo para encontrar o Ollama e clique em Adicionar Modelo.
4. Defina a URL Base como http://host.docker.internal:11434.
5. Insira o Nome do Modelo exatamente como listado por ollama list (ex.: llama3.1:8b).
6. Clique em Salvar — o Dify testará a conexão. Um ícone verde confirma o sucesso.
7. O modelo agora está disponível em todos os seus apps e workflows do Dify.

Se você prefere uma interface de API compatível com OpenAI, o LocalAI é uma excelente alternativa ao Ollama. Ele expõe endpoints como /v1/chat/completions para que você possa usar a integração OpenAI existente do Dify sem configurações extras.

Executar o LocalAI com Docker (GPU)

# Executar LocalAI com Docker (com GPU habilitada)
docker run -d --gpus all -p 8080:8080 -v /path/to/models:/models --name local-ai localai/localai:latest-aio-gpu-nvidia-cuda-12

Após a execução, configure o Dify com Provedor de Modelos: OpenAI-API-compatible, defina a URL base como http://host.docker.internal:8080/v1 e use qualquer nome de modelo carregado no LocalAI. Nenhuma chave de API é necessária para implantações locais.

Recomendações de Modelos por Caso de Uso

Escolha seu modelo com base na VRAM disponível e no equilíbrio entre qualidade e velocidade que sua aplicação exige.

Referência Rápida de VRAM

Estes são requisitos aproximados para inferência em precisão total (fp16). Modelos quantizados (Q4/Q5) podem reduzir o uso de VRAM em 30–50%, permitindo que modelos maiores rodem em GPUs menores.

Guias Relacionados