OpenBiliClaw如何接入最好的大模型：DeepSeek、Ollama与本地模型配置实战清单-平芜编程栈

OpenBiliClaw如何接入最好的大模型：DeepSeek、Ollama与本地模型配置实战清单

【免费下载链接】OpenBiliClaw本地私有、开源的自进化跨平台 AI 内容发现 Agent：先理解你，再主动从 B站、小红书、抖音、YouTube、X、知乎、Reddit、微博等平台与开放 Web 寻找内容。（支持 deepseek harness 插件） | Local-first open-source cross-platform AI content discovery agent: understands you, then proactively finds content across Bilibili, Xiaohongshu, Douyin, YouTube, X, Zhihu, Reddit, Weibo and the open web.（support deepseek harness plugin）项目地址: https://gitcode.com/gh_mirrors/op/OpenBiliClaw

OpenBiliClaw 是一个本地优先、开源的跨平台 AI 内容发现 Agent，它能先理解你的兴趣画像，再主动从 B 站、小红书、抖音、YouTube、X、知乎等平台寻找内容。而这一切的"大脑"，都来自你为大模型配置的模型。本文是一份大模型配置实战清单：从接入 DeepSeek、到用 Ollama 本地模型离线跑，再到分模块路由与避坑清单，全程图形化操作，几乎不用手写代码。

一、为什么要先配好大模型 🧠

OpenBiliClaw 的所有智能行为——兴趣画像生成、候选内容相关性打分、推荐文案撰写、和你"聊聊口味"——都由大模型驱动。模型选得不对，后果很直接：画像不准、推荐文案敷衍、甚至初始化卡在门禁上。

配置其实只有两个独立部分，新手先建立这个心智模型：

组成部分	配置位置	作用	是否必须
聊天 / 推理模型	`[llm]`+`[llm.instances.<id>]`	画像、评估、文案、对话	✅ 必须配一个
Embedding 向量模型	`[llm.embedding]`	主题去重、语义相似度	可选（推荐本地 Ollama）

两者完全解耦：聊天用 DeepSeek、向量用本地 Ollama 的组合是完全合法的，互不干扰。

二、3步完成OpenBiliClaw大模型配置

步骤 1：在设置页创建模型实例

启动后端后打开桌面 Web 的「设置」→「模型」标签页（或直接编辑 config.example.toml 风格的config.toml）。每个"实例"是一套完整可独立调用的端点：类型 + 地址 + 凭据 + 模型，四件套缺一不可。

provider_type支持 8 种类型，按需选择：

deepseek— DeepSeek 官方 API，国内网络默认首选
openai/claude/gemini— 三大官方 API
openrouter/orcarouter— 聚合网关，一个 Key 调 150+ 模型
openai_compatible— 万能钥匙：Groq、vLLM、OneAPI、自建中转
ollama— 本地模型（详见第五节）

步骤 2：把实例放进 default_chain 故障切换链

[llm]段的default_chain是一个有序的实例 ID 链，请求从左到右依次尝试；当前实例出现失败、超时或限流时自动降级到下一个。限流冷却按实例 ID 隔离，健康的备用渠道不会被连坐：

[llm] routing_version = 2 default_chain = ["deepseek", "relay-backup"] # 主渠道 + 备用中转 [llm.instances.deepseek] name = "DeepSeek 官方" provider_type = "deepseek" enabled = true api_key = "sk-..." model = "deepseek-v4-flash" base_url = "" # 留空 = 官方 API 地址 reasoning_effort = "medium"

保存时有强校验：空链、重复引用、停用实例、缺凭据的启用实例都会被拦截并给出具体修复提示，不会出现"配了但没生效"的静默失败。

步骤 3：一键连通性探测，不写盘不保存

设置页每个实例旁都有"测试"按钮。它走的是无写入探测接口：临时构建 registry 真实发一次请求，返回最终命中的实例、模型与延迟，失败时行内直接显示错因（Key 被拒 / 额度不足 / 超时 / 空响应），不会修改你磁盘上的配置。确认绿灯后再保存即可。

三、DeepSeek 接入：多数用户的默认最优解 🚀

对国内用户，DeepSeek 官方 API 是性价比与可用性平衡最好的起点：

模型选择：默认deepseek-v4-flash（快、便宜、够用）；画像质量要求更高时可换deepseek-v4-pro
思考档位：reasoning_effort默认medium（DeepSeek 官方会映射为high）。系统对关键词生成、内容打分等短任务会自动关闭 thinking，避免思考吞掉输出预算，无需手动干预
审核 400 的正确姿势：官方 API 内容安全审核较严，初始化偏好分析偶发 HTTP 400 "Content Exists Risk" 时系统会自动拆分跳过，但更稳的做法是给default_chain加一个openai_compatible中转实例作 fallback（如示例中的relay-backup）

配好之后，你会在首页看到按你口味生成的推荐流，每条都带朋友口吻的推荐理由：

四、Ollama 与本地模型配置：离线跑通，零 API 成本 🏠

场景 A：Embedding 用 Ollama（推荐新手）

不需要再多一份向量 API Key？Ollama +bge-m3是官方推荐的本地方案，CPU 即可跑（约 100–200ms/次），跨 Mac / Windows / Linux 一致。一条命令搞定：

# 装好 Ollama 后，跑向导自动拉 bge-m3 并写入 [llm.embedding] openbiliclaw setup-embedding

或手动在config.toml写两行：

[llm.embedding] provider = "ollama" model = "bge-m3"

注意区分：OpenBiliClaw捆绑的 Ollama 只预装了 embedding 模型——小体积本地聊天模型达不到内容管线质量线，所以图形向导不会推荐它当聊天默认。想要本地聊天，走场景 B。

场景 B：本地模型当聊天 Provider（进阶）

自建一个provider_type = "ollama"实例并放入default_chain即可，但有两个必须做对的细节：

model必须显式填写——留空时实例不会进入聊天注册表，系统绝不替你猜模型
建议num_ctx = 8192——Ollama 的/v1兼容层会静默丢弃该参数，上下文停在默认 4096，批量评估的 prompt 被截断后小模型会吐出非法 JSON 或整批重复文案；设为 8192 后系统改走原生/api/chat端点规避此坑

另外，本地 24G 显卡级别的小模型（80–100K 上下文）应调低[soul]段的认知批次预算（awareness_event_batch_size等注释项），而不是去改源码。配好本地模型后，"我的画像"页依然能看到完整的用户认知：

五、分模块路由：给不同任务配不同的大模型 🔀

配好单一模型只是及格线。OpenBiliClaw 支持把四类任务指向不同实例链，实现质量与成本的最优分配（见 docs/modules/config.md 的[llm.routes.*]章节）：

模块	任务	选型建议
`soul`	五层画像生成、情绪判断	高质量旗舰模型
`discovery`	关键词生成、来源抽取（高频）	低成本、低延迟模型
`recommendation`	朋友式推荐理由文案	平衡型模型
`evaluation`	候选打分、相关度评估（最高频）	低成本模型

默认四个模块全部inherit = true，跟随全局default_chain；想让"发现/评估"走便宜中转、"画像"走旗舰时，只改对应模块为inherit = false并填入自己的有序实例链。自定义链耗尽也不会越界回落到全局链，成本边界清晰可控。

六、常见坑位速查清单 ✅

症状	根因	解法
报错"某服务拒绝了当前 API key"	401 鉴权失败，系统零重试	换 Key / 检查临时 token 是否过期
配额 / 429 报错	额度用尽或被限流	该实例冷却 60 秒后自动切到链上下一实例
本地模型输出非法 JSON	Ollama`/v1`丢了`num_ctx`	设`num_ctx = 8192`（第四节）
实例配了却不生效	未加入`default_chain`或`enabled = false`	检查链引用与启用开关
向量相似度行为异常	主备 embedding 模型维度 / 空间不一致	保持同一向量空间，或统一`output_dimensionality`
请求 20 分钟超时	`timeout`默认 1200s，本地模型冷加载慢	正常现象；Ollama 冷启动属合法等待

完整错误分类（鉴权 / 限流 / 超时 / 空响应 / 审核拦截）的归一化逻辑在 src/openbiliclaw/llm/base.py，面向用户的中文错因说明见 docs/modules/llm.md。

七、进阶资料文件索引

想深入某个环节时，直接打开这些文件：

config.example.toml — 全量配置项与逐行注释，含[llm]/[llm.instances.*]/[llm.embedding]/[llm.routes.*]
docs/modules/llm.md — LLM 多模型支持模块文档：Provider 全景、故障切换链、推理档位映射、托管 Ollama 生命周期
docs/modules/config.md — 配置参考：每个实例字段的类型、默认值与专属语义
src/openbiliclaw/llm/ — LLM 源码：registry.py（实例路由与冷却）、openai_provider.py（OpenAI 系含 DeepSeek 适配）、ollama_provider.py（本地模型）

创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考