OpenClaw s Ollama místní nasazení, super jednoduché!

Pořád se bojíš o cenu nazývání velkého modelu mraků? Pořád se bojíš o soukromí dat?

Dnes tě naučím, jak ho používat. OpenClaw + Ollama Vytvořit plně lokalizovaný AI asistent, všechna data běží lokálně, bezpečné a nákladově efektivní!

Co je Ollama?

Ollama je nástroj pro vás spustit velké jazykové modely lokálně. Podporuje mnoho open-source modelů, jako je Llama 2, Llama 3, Mistral, Gemma, které lze provozovat bez GPU.

Úřední internetové stránky: https: / / ollama.com

Přípravky

1. Instalace Ollamy

MacOS / Linux:

curl -fsSL https://ollama.com/install.sh | bash

Okna:
Přejděte přímo na https: / / ollama.com ke stažení instalačního balíčku

Stáhnout modely

Po instalaci si stáhněte model, který potřebujete:

# 推荐：下载 Llama 3（8B 参数，一般配置够用）
ollama pull llama3

# 或者下载 Mistral（性能不错）
ollama pull mistral

# 配置低的可以选 qwen（阿里开源，中文效果好）
ollama pull qwen:7b

3. Potvrzení běhu Ollamy

# 启动 Ollama 服务（一般安装后自动启动）
ollama serve

# 测试模型
ollama run llama3

Dobře!

Nastavení OpenClaw

1. Najít profil

Name ~/.openclaw/openclaw.json

2. Přidat Ollama jako vlastní

Do profilu přidejte následující:

{
  models: {
    providers: {
      ollama: {
        type: "openai",  // Ollama 兼容 OpenAI API
        baseUrl: "http://localhost:11434/v1",
        api: "key",
        defaultHeaders: {
          "Content-Type": "application/json"
        }
      }
    }
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3"
      },
      models: {
        "ollama/llama3": {
          // 支持的参数
        },
        "ollama/mistral": {},
        "ollama/qwen:7b": {}
      }
    }
  }
}

3. Příklady plné konfigurace

{
  models: {
    providers: {
      ollama: {
        type: "openai",
        baseUrl: "http://localhost:11434/v1"
      }
    }
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3",
        fallbacks: ["ollama/mistral"]
      },
      models: {
        "ollama/llama3": {
          description: "Meta Llama 3, 8B 参数"
        },
        "ollama/mistral": {
          description: "Mistral 7B, 性能强劲"
        },
        "ollama/qwen:7b": {
          description: "阿里 Qwen 7B, 中文效果好"
        }
      }
    }
  }
}

4. Restartovat OpenClaw

# 重启 Gateway
openclaw gateway restart

# 查看模型状态
openclaw models status

Časté problémy

Q1: A co pomalé načítání?

Počáteční zatížení modelu bude pomalejší, protože je třeba stáhnout soubor modelu. Můžeš nechat Ollamu běžet v zákulisí, vyhnout se každému restartu.

# 让 Ollama 保持运行
nohup ollama serve &

Q2: Co když není dost?

Vyberte model čidla:
- Omlouvám se. llama3:8b ~ Potřeba asi 8GB viditelné
- Omlouvám se. mistral:7b ~ Potřeba asi 8GB viditelné
- Omlouvám se. qwen:7b ~ Potřeba asi 8GB viditelné
- Omlouvám se. llama3:70b - Aby to bylo vidět, trvá to asi 40 GB.

Q3: Jak se podíváme na modely?

ollama list

Pomalá reakce?

Počet odpovědí místních modelů závisí na:
- Velikost modelu
- Viditelnost / RAM rychlost
- CPU výkon

Doporučené kvantifikované modely (pásmo) :q4_K_M Počkej, počkej, počkej.

Q5: OpenClaw nemůže najít model?

Zajistit, aby:
Ollama běží:ollama serve
2. Nakonfigurovaný model byl stažen:ollama list
3. BaseUrl Správně:http://localhost:11434/v1

Progress: Přepínání více modelů

Nastavit více závad:

{
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3",
        fallbacks: ["ollama/qwen:7b", "ollama/mistral"]
      }
    }
  }
}

Takže pokud lama3 není k dispozici, automaticky přepne na další model.

Shrnutí

Prostřednictvím místního nasazení Ollamy můžete:

• Zenium Úspora nákladů: Celkem zdarma, žádný API klíč
• Zenium Ochrana soukromí: Údaje nejsou dostupné na místě
• Zenium Vlastní: Volná volba modelu
• Zenium Stabilnější.: Nezávislé na síti

Zkus to. Zeptej se mě na cokoliv.

---

Spřátelit se, přidat mě do skupiny, a sdílet A.I. a kybernetickou bezpečnostní technologii.