OpenColution กับโอลลามะระบบปฏิบัติการท้องถิ่น ง่ายมาก!

คุณยังคงกังวลเกี่ยวกับค่าใช้จ่าย ของการเรียกแบบจําลองเมฆขนาดใหญ่? ยังกังวลเรื่องความเป็นส่วนตัวของข้อมูลอยู่ไหม

ฉันจะสอนวิธีการใช้มันวันนี้ OpenColution + Ollama สร้างผู้ช่วย AI ท้องถิ่นเต็มรูปแบบ ข้อมูลทั้งหมดดําเนินการในท้องถิ่น ปลอดภัยและค่าใช้จ่าย!

โอลามะคืออะไร?

โอลลามะ เป็นเครื่องมือสําหรับคุณ ที่จะผลิตโมเดลภาษาขนาดใหญ่ในท้องถิ่น 2 ลลามา 3 มิสตรัล เจมม่า ซึ่งสามารถทํางานได้โดยไม่ต้องมี GPU

เว็บไซต์อย่างเป็นทางการ: https/s/s/Colalama.com

การ เตรียม

1. โพรเพนแห่งโอลามา

MacOS/ Linux:

curl -fsSL https://ollama.com/install.sh | bash

หน้าต่าง:
ไปยัง https/socolama.com เพื่อดาวน์โหลดแพกเกจการติดตั้ง

ดาวน์โหลดโมเดล

หลังจากการติดตั้งแล้ว ให้ดาวน์โหลดรุ่นที่คุณต้องการ:

# 推荐：下载 Llama 3（8B 参数，一般配置够用）
ollama pull llama3

# 或者下载 Mistral（性能不错）
ollama pull mistral

# 配置低的可以选 qwen（阿里开源，中文效果好）
ollama pull qwen:7b

3. การตรวจสอบของโอลามะ

# 启动 Ollama 服务（一般安装后自动启动）
ollama serve

# 测试模型
ollama run llama3

โอเค!

การปรับแต่ง OpenCraw

1. ค้นหาโพรไฟล์

โปรไฟล์ OpenCraw ใน ~/.openclaw/openclaw.json

2. เพิ่มโอลามาเป็นกําหนดเอง

เพิ่มไปยังโพรไฟล์:

{
  models: {
    providers: {
      ollama: {
        type: "openai",  // Ollama 兼容 OpenAI API
        baseUrl: "http://localhost:11434/v1",
        api: "key",
        defaultHeaders: {
          "Content-Type": "application/json"
        }
      }
    }
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3"
      },
      models: {
        "ollama/llama3": {
          // 支持的参数
        },
        "ollama/mistral": {},
        "ollama/qwen:7b": {}
      }
    }
  }
}

3. ตัวอย่างของการปรับแต่งเต็มรูปแบบ

{
  models: {
    providers: {
      ollama: {
        type: "openai",
        baseUrl: "http://localhost:11434/v1"
      }
    }
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3",
        fallbacks: ["ollama/mistral"]
      },
      models: {
        "ollama/llama3": {
          description: "Meta Llama 3, 8B 参数"
        },
        "ollama/mistral": {
          description: "Mistral 7B, 性能强劲"
        },
        "ollama/qwen:7b": {
          description: "阿里 Qwen 7B, 中文效果好"
        }
      }
    }
  }
}

4. เริ่มการเปิดพระราชบัญญัติ

# 重启 Gateway
openclaw gateway restart

# 查看模型状态
openclaw models status

ปัญหาทั่วไป

Q1: แล้วการโหลดช้าล่ะ?

การโหลดเอกสารต้น ๆ ของรุ่นจะช้ากว่า เนื่องจากจําเป็นในการดาวน์โหลดแฟ้มต้นแบบ คุณสามารถให้โอลามาวิ่งอยู่ในหลังเวที หลีกเลี่ยงการรีเซ็ททุกครั้ง

# 让 Ollama 保持运行
nohup ollama serve &

แล้วถ้ามันไม่พอล่ะ

เลือกรุ่นของตัวดม:
- ฉันขอโทษ llama3:8b ~ต้องมองเห็นประมาณ 8GB
- ฉันขอโทษ mistral:7b ~ต้องมองเห็นประมาณ 8GB
- ฉันขอโทษ qwen:7b ~ต้องมองเห็นประมาณ 8GB
- ฉันขอโทษ llama3:70b ~ ต้องใช้ GB ประมาณ 40 ตัว ถึงจะมองเห็นได้

Q3: เรามองนางแบบอย่างไร

ollama list

Q4 ตอบสนองช้า?

อัตราการตอบรับรุ่นท้องถิ่นขึ้นอยู่กับ:
- ขนาดโมเดล
ความไวแสง/ ความไวแสง
- การประมวลผล CPU

ขอแนะนําให้ใช้โมเดลที่มีคุณภาพ (แถบ) :q4_K_M เดี๋ยว เดี๋ยว เดี๋ยว

ค.ศ.

แน่ใจว่า :
Olama กําลังทํางานอยู่:ollama serve
2. รุ่นที่ปรับแต่งแล้วดาวน์โหลด:ollama list
3. เบสเวิลแก้ไข:http://localhost:11434/v1

ความคืบหน้า: การสลับแบบมัลติฟอร์ม

ปรับแต่งการผิดพลาดหลายครั้ง:

{
  agents: {
    defaults: {
      model: {
        primary: "ollama/llama3",
        fallbacks: ["ollama/qwen:7b", "ollama/mistral"]
      }
    }
  }
}

ดังนั้นหากไม่มีลามะ3 อยู่ มันจะเปลี่ยนเป็นรุ่นถัดไปโดยอัตโนมัติ

สรุป

ผ่านระบบปฏิบัติการท้องถิ่นของโอลลามะ

• เซเนียม การออมค่าใช้จ่ายสืบค้นเมื่อ:
• เซเนียม พารามิเตอร์แม่ข่าย:
• เซเนียม กําหนดเองสืบค้นเมื่อ:
• เซเนียม เสถียรมากขึ้น: ไม่ขึ้นอยู่กับเครือข่าย

เอาเลย ลองดู ถามฉันทุกคําถาม

---

หาเพื่อน เพิ่มฉันเข้าไปในกลุ่ม และแบ่งปันเทคโนโลยีความปลอดภัยไซเบอร์