Openclaw com implantação local Ollama, super simples!

Você ainda está preocupado com o custo de chamar um modelo de nuvem grande? Ainda preocupado com a privacidade dos dados?

Vou ensinar-te a usá-lo hoje. Openclaw + Ollama Crie um assistente de IA totalmente localizado, todos os dados em execução local, seguro e econômico!

O que é Ollama?

Ollama é uma ferramenta para você executar modelos de linguagem grande localmente. Ele suporta muitos modelos de código aberto, como Llama 2, Llama 3, Mistral, Gemma, que pode ser executado sem GPU.

Sítio oficial: https://olama.com

Preparações

1. Instalação de Ollama

MacOS/ Linux:

curl -fsSL https://ollama.com/install.sh | bash

Janelas:
Vá direto para https://olama.com para baixar o pacote de instalação

Transferir modelos

Após a instalação, baixe o modelo que você precisa:

# 推荐：下载 Llama 3（8B 参数，一般配置够用）
ollama pull llama3

# 或者下载 Mistral（性能不错）
ollama pull mistral

# 配置低的可以选 qwen（阿里开源，中文效果好）
ollama pull qwen:7b

3. Validação da execução Ollama

# 启动 Ollama 服务（一般安装后自动启动）
ollama serve

# 测试模型
ollama run llama3

Está bem!

Configuração do Openclaw

1. Procurar perfil

Perfil OpenClaw em ~/.openclaw/openclaw.json

2. Adicione Ollama como personalizado

Adicione o seguinte ao perfil:

{
  models: {
    providers: {
      ollama: {
        type: "openai",  // Ollama 兼容 OpenAI API
        baseUrl: "http://localhost:11434/v1",
        api: "key",
        defaultHeaders: {
          "Content-Type": "application/json"
        }
      }
    }
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3"
      },
      models: {
        "ollama/llama3": {
          // 支持的参数
        },
        "ollama/mistral": {},
        "ollama/qwen:7b": {}
      }
    }
  }
}

3. Exemplos de configuração completa

{
  models: {
    providers: {
      ollama: {
        type: "openai",
        baseUrl: "http://localhost:11434/v1"
      }
    }
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3",
        fallbacks: ["ollama/mistral"]
      },
      models: {
        "ollama/llama3": {
          description: "Meta Llama 3, 8B 参数"
        },
        "ollama/mistral": {
          description: "Mistral 7B, 性能强劲"
        },
        "ollama/qwen:7b": {
          description: "阿里 Qwen 7B, 中文效果好"
        }
      }
    }
  }
}

4. Reiniciar Openclaw

# 重启 Gateway
openclaw gateway restart

# 查看模型状态
openclaw models status

Problemas comuns

Q1: E o carregamento lento?

O carregamento inicial do modelo será mais lento devido à necessidade de baixar o arquivo do modelo. Você pode manter Ollama correndo nos bastidores, evitando cada reinício.

# 让 Ollama 保持运行
nohup ollama serve &

P2: E se não houver o suficiente?

Selecione o modelo de cheiro:
- Desculpa. llama3:8b ~ Precisa de cerca de 8GB visível
- Desculpa. mistral:7b ~ Precisa de cerca de 8GB visível
- Desculpa. qwen:7b ~ Precisa de cerca de 8GB visível
- Desculpa. llama3:70b - São necessários cerca de 40 GB para serem visíveis.

P3: Como olhamos para os modelos?

ollama list

P4: Resposta lenta?

As taxas de resposta do modelo local dependem:
– Tamanho do modelo
– Velocidade de visibilidade/RAM
– Desempenho da CPU

Modelos quantificados recomendados (banda) :q4_K_M Espera.

Q5: OpenClaw não consegue encontrar um modelo?

Assegurar que:
O Ollama está a correr.ollama serve
2. O modelo configurado foi baixado:ollama list
3. BaseUrl Correct:http://localhost:11434/v1

Progresso: Comutação multimodelo

Configurar múltiplos recuos:

{
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3",
        fallbacks: ["ollama/qwen:7b", "ollama/mistral"]
      }
    }
  }
}

Assim, se llama3 não estiver disponível, ele irá mudar automaticamente para o próximo modelo.

Resumo

Através da implantação local do Ollama, você pode:

• Zenium Poupança de custos: Total livre, sem chave API
• Zenium Privacidade: Dados não disponíveis localmente
• Zenium Personalizar: Livre escolha do modelo
• Zenium Mais estável.: Não dependente da rede

Vai em frente e tenta. Faça-me qualquer pergunta.

---

Fazer amigos, juntar-me ao grupo, e partilhar IA e tecnologia de segurança cibernética.