繁體中文

← 返回列表

OpenClaw 配合Ollama本地部署，超級簡單一看就會！！

itadol5j

OpenClaw + Ollama

OpenClaw 配合 Ollama 本地部署，超級簡單一看就會！！

還在爲調用雲端大模型花銷大而煩惱嗎？還在擔心數據隱私問題嗎？

今天教大家如何用 OpenClaw + Ollama 打造完全本地化的 AI 助手，所有數據都在本地運行，安全又省錢！

什麼是 Ollama？

Ollama 是一個讓你在本地運行大語言模型的工具。它支持 Llama 2、Llama 3、Mistral、Gemma 等衆多開源模型，無需 GPU 也能運行（當然有 GPU 效果更好）。

官方網站：https://ollama.com

準備工作

1. 安裝 Ollama

macOS / Linux：

curl -fsSL https://ollama.com/install.sh | bash

Windows：
直接去 https://ollama.com 下載安裝包

2. 下載模型

安裝完成後，下載你需要的模型：

# 推荐：下载 Llama 3（8B 参数，一般配置够用）
ollama pull llama3

# 或者下载 Mistral（性能不错）
ollama pull mistral

# 配置低的可以选 qwen（阿里开源，中文效果好）
ollama pull qwen:7b

3. 驗證 Ollama 運行

# 启动 Ollama 服务（一般安装后自动启动）
ollama serve

# 测试模型
ollama run llama3

看到模型能正常對話就 OK 了！

OpenClaw 配置

1. 找到配置文件

OpenClaw 的配置文件在 ~/.openclaw/openclaw.json

2. 添加 Ollama 作爲自定義 Provider

在配置文件中添加以下內容：

{
  models: {
    providers: {
      ollama: {
        type: "openai",  // Ollama 兼容 OpenAI API
        baseUrl: "http://localhost:11434/v1",
        api: "key",
        defaultHeaders: {
          "Content-Type": "application/json"
        }
      }
    }
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3"
      },
      models: {
        "ollama/llama3": {
          // 支持的参数
        },
        "ollama/mistral": {},
        "ollama/qwen:7b": {}
      }
    }
  }
}

3. 完整配置示例

{
  models: {
    providers: {
      ollama: {
        type: "openai",
        baseUrl: "http://localhost:11434/v1"
      }
    }
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3",
        fallbacks: ["ollama/mistral"]
      },
      models: {
        "ollama/llama3": {
          description: "Meta Llama 3, 8B 参数"
        },
        "ollama/mistral": {
          description: "Mistral 7B, 性能强劲"
        },
        "ollama/qwen:7b": {
          description: "阿里 Qwen 7B, 中文效果好"
        }
      }
    }
  }
}

4. 重啓 OpenClaw

# 重启 Gateway
openclaw gateway restart

# 查看模型状态
openclaw models status

常見問題

Q1: 模型加載慢怎麼辦？

首次加載模型會比較慢，因爲需要下載模型文件。可以在後臺保持 Ollama 運行，避免每次重啓。

# 让 Ollama 保持运行
nohup ollama serve &

Q2: 顯存不夠怎麼辦？

選擇 smaller 的模型：
– llama3:8b → 需要約 8GB 顯存
– mistral:7b → 需要約 8GB 顯存
– qwen:7b → 需要約 8GB 顯存
– llama3:70b → 需要約 40GB 顯存（普通機器跑不動）

Q3: 如何查看有哪些模型？

ollama list

Q4: 響應速度慢？

本地模型響應速度取決於：
– 模型大小
– 顯存/內存速度
– CPU 性能

建議使用量化模型（帶 :q4_K_M 等後綴），速度更快。

Q5: OpenClaw 找不到模型？

確保：
1. Ollama 正在運行：ollama serve
2. 配置的模型已下載：ollama list
3. baseUrl 正確：http://localhost:11434/v1

進階：多模型切換

配置多個 fallback：

{
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3",
        fallbacks: ["ollama/qwen:7b", "ollama/mistral"]
      }
    }
  }
}

這樣如果 llama3 不可用，會自動切換到下一個模型。

總結

通過 Ollama 本地部署，你可以：

  • ✅ 省費用：完全免費，無需 API Key
  • ✅ 保隱私：數據不出本地
  • ✅ 可定製：自由選擇模型
  • ✅ 更穩定：不依賴網絡

快去試試吧！有任何問題隨時來問~

OpenClaw 配合Ollama本地部署，超級簡單一看就會！！

交個朋友，加我入羣，交流前沿AI和網絡安全技術