在Nodejs后端服务中集成Taotoken实现异步聊天交互
1. 初始化OpenAI SDK配置
在Node.js项目中安装官方OpenAI SDK：
npm install openai创建初始化模块taotokenClient.js，配置基础连接参数：
import OpenAI from "openai"; const taotokenClient = new OpenAI({ apiKey: process.env.TAOTOKEN_API_KEY, baseURL: "https://taotoken.net/api", timeout: 30000, // 建议设置合理超时 }); export default taotokenClient;环境变量.env需配置：
TAOTOKEN_API_KEY=your_api_key_from_taotoken_console2. 实现异步聊天处理函数
在服务层创建chatService.js处理核心逻辑：
import taotokenClient from "./taotokenClient.js"; async function handleChatCompletion(messages, model = "claude-sonnet-4-6") { try { const stream = await taotokenClient.chat.completions.create({ model, messages, stream: true, // 启用流式响应 }); return stream; // 返回可迭代的流对象 } catch (error) { if (error.status === 429) { await new Promise(resolve => setTimeout(resolve, 1000)); return handleChatCompletion(messages, model); // 简单重试逻辑 } throw new Error(`Taotoken API error: ${error.message}`); } } export { handleChatCompletion };3. 集成到Express路由
创建路由处理器chatRouter.js：
import express from "express"; import { handleChatCompletion } from "../services/chatService.js"; const router = express.Router(); router.post("/chat", async (req, res) => { try { const { messages } = req.body; res.setHeader("Content-Type", "text/event-stream"); res.setHeader("Cache-Control", "no-cache"); res.setHeader("Connection", "keep-alive"); const stream = await handleChatCompletion(messages); for await (const chunk of stream) { const content = chunk.choices[0]?.delta?.content || ""; res.write(`data: ${JSON.stringify({ content })}\n\n`); } res.end(); } catch (error) { console.error("Chat error:", error); res.status(500).json({ error: error.message }); } }); export default router;4. 错误处理与重试策略
扩展错误处理模块errorHandler.js：
export function withRetry(fn, maxRetries = 3) { return async (...args) => { let lastError; for (let i = 0; i < maxRetries; i++) { try { return await fn(...args); } catch (error) { lastError = error; if (error.status === 429) { await new Promise(resolve => setTimeout(resolve, Math.pow(2, i) * 1000) ); continue; } break; } } throw lastError; }; }修改后的服务层调用方式：
import { withRetry } from "../utils/errorHandler.js"; const retryableCompletion = withRetry( (messages, model) => taotokenClient.chat.completions.create({ /*...*/ }), 3 );5. 生产环境注意事项
- 密钥管理：推荐使用AWS Secrets Manager或Vault等专业方案，避免硬编码
- 限流控制：在Nginx或API Gateway层添加速率限制
- 模型切换：可通过请求参数动态指定模型ID：
// 从Taotoken模型广场获取可用模型ID const model = req.query.model || "claude-sonnet-4-6"; - 性能监控：建议记录响应时间与Token用量：
const start = Date.now(); const stream = await handleChatCompletion(messages); const duration = Date.now() - start; // 上报到监控系统
完整示例代码结构应包含：
/src /config taotokenClient.js /services chatService.js /routes chatRouter.js /utils errorHandler.js访问Taotoken获取最新模型列表与API文档。
