Clawdbot整合Qwen3-32B代码实例：Web网关配置+Ollama API调用-平芜编程栈

Clawdbot整合Qwen3-32B代码实例：Web网关配置+Ollama API调用

1. 为什么需要这样的整合方案

你有没有遇到过这种情况：手头有个功能强大的大模型，比如Qwen3-32B，本地跑得飞快，但想把它接入一个现成的聊天平台时，却卡在了接口对接这一步？Clawdbot是个轻量、可定制的聊天机器人框架，但它默认不支持Ollama这类本地模型服务。而Ollama虽然启动简单，API也干净，但它监听的是本地端口（比如11434），没法直接暴露给前端页面——尤其当你的Clawdbot运行在Docker里，或者部署在内网服务器上时，跨容器、跨网络、跨协议的通信就成了拦路虎。

这个方案要解决的，就是“让Clawdbot像调用云API一样，顺滑地用上你私有部署的Qwen3-32B”。它不依赖公网、不走第三方中转、不改模型服务本身，只靠一层轻量代理 + 标准HTTP适配，就把Ollama变成Clawdbot原生支持的后端。整个链路清晰可控：用户在Clawdbot界面输入问题 → 请求经Web网关转发 → 到达Ollama API → 模型推理返回 → 结果原路回传展示。没有黑盒，没有魔改，全是可读、可调、可替换的标准组件。

我们不讲抽象架构图，也不堆术语。接下来就带你从零搭起这条通路：怎么配网关、怎么写适配代码、怎么验证每一步是否生效，以及最关键的——怎么避开那些让人抓耳挠腮的坑。

2. 环境准备与服务拓扑

2.1 整体结构一目了然

先理清三个核心角色的位置和职责：

Qwen3-32B：由Ollama加载的本地大模型，运行在某台机器（可以是本机或内网服务器）上，默认监听http://localhost:11434
Clawdbot：前端聊天界面 + 后端逻辑服务，我们希望它能通过标准HTTP请求调用模型，但它的后端默认不认Ollama的/api/chat接口格式
Web网关代理：一个轻量HTTP反向代理，把Clawdbot发来的请求，转换成Ollama能理解的格式，并把响应再“翻译”回去

它们之间的连接不是直连，而是这样流转的：

Clawdbot前端（浏览器） ↓ HTTPS / HTTP Clawdbot后端（监听8080端口） ↓ 内部HTTP调用（同容器或同主机） Web网关代理（监听18789端口） ↓ 转发并重写请求 Ollama服务（http://localhost:11434/api/chat）

注意关键点：Clawdbot后端并不直接连Ollama，而是连到网关的18789端口；网关再把请求转发给Ollama的11434端口。这种分层设计让你可以随时替换网关逻辑（比如加日志、加限流、加缓存），而不动Clawdbot和Ollama一根线。

2.2 必备工具与版本确认

请确保以下组件已安装并可运行：

Ollama v0.4.5+（低版本API字段不兼容Qwen3-32B的流式响应）
验证命令：ollama list应能看到qwen3:32b已拉取
启动命令：ollama serve（保持后台运行）
Clawdbot v1.2.0+（需支持自定义后端API地址配置）
通常以Docker方式运行：docker run -p 8080:8080 clawdbot/app
Node.js v18+ 或 Python 3.10+（用于运行网关代理，本文提供双语言示例）
我们推荐用Node.js，启动快、内存省、调试直观；Python版适合已有Flask/FastAPI生态的团队
curl 或 Postman（用于手动测试各环节连通性）

小提醒：所有服务建议在同一台物理机或同一局域网内运行。如果跨机器，请确保防火墙放行11434、18789、8080端口，并将localhost替换为实际IP（如192.168.1.100）。

3. Web网关代理实现（Node.js版）

3.1 为什么选Node.js写网关

它轻、快、原生支持流式响应（这对大模型对话至关重要），而且几行代码就能完成请求重写和响应透传。不用装一堆依赖，一个package.json就够。

创建文件gateway.js：

const http = require('http'); const https = require('https'); const url = require('url'); // Ollama服务地址（可改为内网IP） const OLLAMA_BASE_URL = 'http://localhost:11434'; // 创建HTTP服务器，监听18789端口 const server = http.createServer((req, res) => { const parsedUrl = url.parse(req.url, true); // 只处理 /v1/chat/completions 路径（Clawdbot默认调用路径） if (req.method === 'POST' && parsedUrl.pathname === '/v1/chat/completions') { // 构造Ollama API目标URL const ollamaUrl = new URL('/api/chat', OLLAMA_BASE_URL); // 设置Ollama请求选项 const options = { method: 'POST', headers: { 'Content-Type': 'application/json', } }; // 创建Ollama请求 const ollamaReq = http.request(ollamaUrl, options, (ollamaRes) => { // 复制Ollama响应头（保留streaming标识） res.writeHead(ollamaRes.statusCode, ollamaRes.statusMessage, { 'Content-Type': ollamaRes.headers['content-type'] || 'application/json', 'Transfer-Encoding': ollamaRes.headers['transfer-encoding'], 'Cache-Control': 'no-cache' }); // 直接管道传输响应体（关键！保证流式不中断） ollamaRes.pipe(res); }); ollamaReq.on('error', (err) => { console.error('Ollama request failed:', err.message); res.writeHead(502, { 'Content-Type': 'application/json' }); res.end(JSON.stringify({ error: 'Failed to connect to Ollama' })); }); // 重写Clawdbot请求体为Ollama格式 let body = ''; req.on('data', chunk => body += chunk); req.on('end', () => { try { const clawdbotPayload = JSON.parse(body); // 转换字段：messages → messages, model → model, stream → stream const ollamaPayload = { model: clawdbotPayload.model || 'qwen3:32b', messages: clawdbotPayload.messages || [], stream: clawdbotPayload.stream !== false, // 默认开启流式 options: { temperature: clawdbotPayload.temperature || 0.7, num_ctx: 8192 // Qwen3-32B推荐上下文长度 } }; ollamaReq.write(JSON.stringify(ollamaPayload)); ollamaReq.end(); } catch (e) { console.error('Invalid JSON from Clawdbot:', e.message); res.writeHead(400, { 'Content-Type': 'application/json' }); res.end(JSON.stringify({ error: 'Invalid request body' })); } }); } else { // 其他路径返回404 res.writeHead(404, { 'Content-Type': 'application/json' }); res.end(JSON.stringify({ error: 'Not found' })); } }); server.listen(18789, () => { console.log(' Web网关代理已启动，监听端口 18789'); console.log(`➡ Clamdbot请配置后端地址为: http://localhost:18789/v1/chat/completions`); });

3.2 启动与验证网关

保存后，在终端执行：

node gateway.js

你会看到控制台输出：

Web网关代理已启动，监听端口 18789 ➡ Clawdbot请配置后端地址为: http://localhost:18789/v1/chat/completions

现在用curl手动测试网关是否通：

curl -X POST http://localhost:18789/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{ "model": "qwen3:32b", "messages": [{"role": "user", "content": "你好，你是谁？"}], "stream": false }'

如果返回类似下面的JSON，说明网关已成功把请求转发给了Ollama，并拿到了响应：

{ "message": { "role": "assistant", "content": "我是通义千问Qwen3，一个超大规模语言模型……" } }

注意：如果报错ECONNREFUSED，请检查Ollama是否正在运行（ollama serve）、端口是否被占用、OLLAMA_BASE_URL是否填对。

4. Clawdbot后端配置与适配

4.1 修改Clawdbot API地址

Clawdbot默认调用OpenAI风格的/v1/chat/completions接口。我们要做的，只是告诉它：“别找openai.com，去找我本地的网关”。

根据Clawdbot部署方式不同，配置位置略有差异：

Docker环境：在docker run命令中加入环境变量

docker run -p 8080:8080 \ -e BACKEND_API_URL="http://host.docker.internal:18789/v1/chat/completions" \ clawdbot/app

源码运行：修改.env文件或启动脚本中的VUE_APP_BACKEND_API_URL
```
VUE_APP_BACKEND_API_URL=http://localhost:18789/v1/chat/completions
```

Kubernetes/Compose：在env字段中设置

env: - name: BACKEND_API_URL value: "http://gateway-service:18789/v1/chat/completions"

提示：host.docker.internal是Docker Desktop提供的特殊DNS，指向宿主机；Linux用户若用Docker Engine，需改用--add-host=host.docker.internal:host-gateway。

4.2 关键字段对齐说明

Clawdbot发送的请求体和Ollama期望的略有不同，网关已做了自动转换，但你仍需了解哪些字段会被映射：

Clawdbot字段	网关转换后	说明
`model`	`model`	直接透传，支持`qwen3:32b`、`qwen3:32b-f16`等变体
`messages`	`messages`	格式完全一致：`[{role: 'user', content: 'xxx'}]`
`stream`	`stream`	默认true，关闭流式设为`false`
`temperature`	`options.temperature`	控制输出随机性，0.0~2.0范围
`max_tokens`	`options.num_predict`	Ollama对应字段，Qwen3-32B建议设为2048以内

不需要额外配置system prompt、top_p等——Qwen3-32B对这些字段兼容良好，网关会原样透传。

5. 实际效果演示与调试技巧

5.1 三步验证法：确保每环都通

别急着打开网页，先用最原始的方式逐层验证：

第一层：Ollama是否真在干活？

curl -X POST http://localhost:11434/api/chat \ -H "Content-Type: application/json" \ -d '{"model":"qwen3:32b","messages":[{"role":"user","content":"1+1等于几？"}]}'

应返回带message.content的JSON，且无报错。

第二层：网关是否正确转发？

curl -X POST http://localhost:18789/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{"model":"qwen3:32b","messages":[{"role":"user","content":"1+1等于几？"}]}'

返回内容应与第一步完全一致（说明网关没做多余改动）。

第三层：Clawdbot是否收到响应？
打开浏览器开发者工具（F12），切到Network标签页，发送一条消息，找到/v1/chat/completions请求。
查看Response，应为标准OpenAI格式（含choices[0].message.content）；
查看Preview，应显示模型回答；
查看Console，无Failed to fetch报错。

只要这三步全绿，恭喜，你的私有大模型聊天平台已经跑起来了。

5.2 常见问题与速查表

现象	可能原因	快速解决
Clawdbot界面一直转圈，Network里请求Pending	网关未启动，或Clawdbot地址填错	`ps aux \| grep gateway`看进程；检查`BACKEND_API_URL`是否拼写错误
返回`{"error":"Failed to connect to Ollama"}`	Ollama未运行，或端口不通	`curl -v http://localhost:11434`测试连通性；检查`ollama serve`是否后台运行
模型回答乱码、截断、或返回空	Ollama模型未加载完整，或显存不足	`ollama list`确认`qwen3:32b`状态为`ok`；尝试`ollama run qwen3:32b`交互测试
中文回答不流畅、逻辑跳跃	温度值过高，或缺少system message引导	在Clawdbot前端设置`temperature=0.3`；或在网关代码中硬编码`system`消息
流式响应卡顿、延迟高	网关未启用pipe，或Ollama未开启stream	检查网关代码中`ollamaRes.pipe(res)`是否存在；确认请求体含`"stream": true`

进阶提示：想让Qwen3-32B更“听话”，可以在网关里加一段system message注入逻辑（不推荐前端加，避免暴露提示词）：
// 在构造ollamaPayload前插入 const systemMsg = { role: 'system', content: '你是一个专业、严谨、中文母语的AI助手，回答要简洁准确，不编造信息。' }; ollamaPayload.messages = [systemMsg, ...clawdbotPayload.messages];