OpenClaw dengan Ollama lokal penyebaran, super sederhana!

Apakah Anda masih khawatir tentang biaya memanggil model awan besar? Masih khawatir tentang privasi data?

Aku akan mengajarimu cara menggunakannya hari ini. OpenClaw + Ollama Buat sebuah asisten AI yang sepenuhnya lokal, semua data berjalan secara lokal, aman dan biaya-efektif!

Apa itu Ollama?

Ollama adalah alat bagi Anda untuk menjalankan model bahasa besar secara lokal. Ini mendukung banyak model open source seperti Llama 2, Llama 3, Mistral, Gemma, yang dapat dijalankan tanpa GPU.

Website resmi: https: / / ollama.com

Persiapan

Pemasangan Ollama

MacOS / Linux:

curl -fsSL https://ollama.com/install.sh | bash

Windows:
Langsung ke https: / / ollama.com untuk mengunduh paket instalasi

Unduh model

Setelah instalasi, download model yang Anda butuhkan:

# 推荐：下载 Llama 3（8B 参数，一般配置够用）
ollama pull llama3

# 或者下载 Mistral（性能不错）
ollama pull mistral

# 配置低的可以选 qwen（阿里开源，中文效果好）
ollama pull qwen:7b

Validasi dari Ollama run

# 启动 Ollama 服务（一般安装后自动启动）
ollama serve

# 测试模型
ollama run llama3

Oke!

Konfigurasi OpenClaw

1. Cari Profil

Profil OpenClaw di ~/.openclaw/openclaw.json

2. Tambahkan Ollama sebagai Gubahan

Tambahkan berikut ke profil:

{
  models: {
    providers: {
      ollama: {
        type: "openai",  // Ollama 兼容 OpenAI API
        baseUrl: "http://localhost:11434/v1",
        api: "key",
        defaultHeaders: {
          "Content-Type": "application/json"
        }
      }
    }
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3"
      },
      models: {
        "ollama/llama3": {
          // 支持的参数
        },
        "ollama/mistral": {},
        "ollama/qwen:7b": {}
      }
    }
  }
}

3, contoh konfigurasi penuh.

{
  models: {
    providers: {
      ollama: {
        type: "openai",
        baseUrl: "http://localhost:11434/v1"
      }
    }
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3",
        fallbacks: ["ollama/mistral"]
      },
      models: {
        "ollama/llama3": {
          description: "Meta Llama 3, 8B 参数"
        },
        "ollama/mistral": {
          description: "Mistral 7B, 性能强劲"
        },
        "ollama/qwen:7b": {
          description: "阿里 Qwen 7B, 中文效果好"
        }
      }
    }
  }
}

4.

# 重启 Gateway
openclaw gateway restart

# 查看模型状态
openclaw models status

Masalah umum

Q1: Bagaimana dengan slow- loading?

Pemuatan awal model akan lebih lambat karena perlu mengunduh berkas model. Anda dapat menjaga Ollama berjalan di belakang panggung, menghindari setiap restart.

# 让 Ollama 保持运行
nohup ollama serve &

Bagaimana jika tidak cukup?

Pilih model smeller:
- Maafkan aku. llama3:8b ~ Perlu sekitar 8GB terlihat
- Maafkan aku. mistral:7b ~ Perlu sekitar 8GB terlihat
- Maafkan aku. qwen:7b ~ Perlu sekitar 8GB terlihat
- Maafkan aku. llama3:70b - Dibutuhkan sekitar 40 GB untuk terlihat.

Bagaimana kita melihat modelnya?

ollama list

Q4: Respon lambat?

Laju respon model lokal bergantung pada:
- Ukuran model
- Kecepatan penglihatan / RAM
- Performance CPU

Model yang direkomendasikan (band) :q4_K_M Tunggu, tunggu.

Q5: OpenClaw tidak dapat menemukan model?

Pastikan bahwa:
Ollama berjalan:ollama serve
Model yang dikonfigurasi telah diunduh:ollama list
3.http://localhost:11434/v1

Kemajuan: Pergantian Multimodel

Atur beberapa fallbacks:

{
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3",
        fallbacks: ["ollama/qwen:7b", "ollama/mistral"]
      }
    }
  }
}

Jadi jika llama tidak tersedia, secara otomatis akan beralih ke model berikutnya.

Ringkasan

Melalui penyebaran lokal Ollama, Anda dapat:

• Zenium Biaya tabungan: Total bebas, tidak ada Kunci API
• Zenium Privasi: Data tidak tersedia secara lokal
• Zenium Pelanggan: Pilihan model bebas
• Zenium Lebih stabil.: Tidak tergantung pada jaringan

Silakan coba. Tanyakan padaku.

---

Membuat teman, menambahkan saya ke kelompok, dan berbagi A.I. dan teknologi keamanan cyber.