OpenClaw 와 Ollama 지역 배포, 슈퍼 간단합니다!

여전히 큰 클라우드 모델을 호출하는 비용에 대해 걱정? 아직도 데이터 프라이버시에 대해 걱정?

오늘 그것을 사용하는 방법을 가르쳐 드리겠습니다. OpenClaw + 오라마 완전히 현지화 된 AI 조수, 로컬로 실행되는 모든 데이터, 안전하고 비용 효율적인!

Ollama는 무엇입니까?

Ollama는 현지에서 큰 언어 모델을 실행하는 도구입니다. Llama 2, Llama 3, Mistral, Gemma와 같은 많은 오픈 소스 모델을 지원합니다.

공식 웹 사이트: https://ollama.com

지원하다

1. Ollama 설치

맥 OS/ 리눅스:

curl -fsSL https://ollama.com/install.sh | bash

윈도우:
설치 패키지를 다운로드하려면 https://ollama.com로 바로 이동

다운로드 모델

설치 후, 필요한 모델을 다운로드:

# 推荐：下载 Llama 3（8B 参数，一般配置够用）
ollama pull llama3

# 或者下载 Mistral（性能不错）
ollama pull mistral

# 配置低的可以选 qwen（阿里开源，中文效果好）
ollama pull qwen:7b

3. Ollama 실행의 검증

# 启动 Ollama 服务（一般安装后自动启动）
ollama serve

# 测试模型
ollama run llama3

이름 *

OpenClaw 설정

1. 프로필 찾기

OpenClaw 프로필 ~/.openclaw/openclaw.json

2. 관례로 Ollama를 추가하십시오

프로필에 다음을 추가:

{
  models: {
    providers: {
      ollama: {
        type: "openai",  // Ollama 兼容 OpenAI API
        baseUrl: "http://localhost:11434/v1",
        api: "key",
        defaultHeaders: {
          "Content-Type": "application/json"
        }
      }
    }
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3"
      },
      models: {
        "ollama/llama3": {
          // 支持的参数
        },
        "ollama/mistral": {},
        "ollama/qwen:7b": {}
      }
    }
  }
}

3. 전체 구성의 예

{
  models: {
    providers: {
      ollama: {
        type: "openai",
        baseUrl: "http://localhost:11434/v1"
      }
    }
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3",
        fallbacks: ["ollama/mistral"]
      },
      models: {
        "ollama/llama3": {
          description: "Meta Llama 3, 8B 参数"
        },
        "ollama/mistral": {
          description: "Mistral 7B, 性能强劲"
        },
        "ollama/qwen:7b": {
          description: "阿里 Qwen 7B, 中文效果好"
        }
      }
    }
  }
}

4. 나머지 OpenClaw

# 重启 Gateway
openclaw gateway restart

# 查看模型状态
openclaw models status

일반적인 문제

Q1: 느린 선적은 어떨까요?

모델의 초기 로딩은 모델 파일을 다운로드 할 필요가 없기 때문입니다. 당신은 무대에서 실행 Ollama 유지, 모든 재시작을 피.

# 让 Ollama 保持运行
nohup ollama serve &

Q2 : 충분하지 않은 경우?

냄새 모델 선택:
– 미안 해요. llama3:8b ~ 8GB에 대한 필요
– 미안 해요. mistral:7b ~ 8GB에 대한 필요
– 미안 해요. qwen:7b ~ 8GB에 대한 필요
– 미안 해요. llama3:70b ~ 그것은 대략 40 GB를 볼 수 있습니다.

Q3: 우리는 어떻게 모형을 봅니까?

ollama list

Q4: 느린 응답?

Local model 응답률은 다음과 같습니다:
– 모형 크기
– Visibility/RAM 속도
– CPU 성능

Quantified 모델 권장 (밴드) :q4_K_M 대기, 대기, 대기.

Q5: OpenClaw는 모델을 찾을 수 없습니다?

참고 :
Ollama 실행:ollama serve
2. 형성된 모형은 다운로드되었습니다:ollama list
3. BaseUrl 정확한:http://localhost:11434/v1

진행: Multimodel 엇바꾸기

여러 fallbacks 구성:

{
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3",
        fallbacks: ["ollama/qwen:7b", "ollama/mistral"]
      }
    }
  }
}

llama3가 사용할 수없는 경우 다음 모델로 자동 전환됩니다.

제품정보

Ollama 로컬 배포를 통해:

• 주 메뉴 비용 절감: 총 무료, API 키 없음
• 주 메뉴 제품 정보: 현지에서 사용할 수없는 데이터
• 주 메뉴 회사 소개: 모델의 무료 선택
• 주 메뉴 더 안정.: 네트워크에 의존하지 않음

계속하기 자주 묻는 질문

---

친구를 만들고, 그룹에 추가하고, A.I.와 사이버 보안 기술을 공유합니다.