news 2026/9/12 14:23:39

在 AIRI 中接入 Groq:为“意识“配置高速 OpenAI 兼容聊天服务商

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
在 AIRI 中接入 Groq:为“意识“配置高速 OpenAI 兼容聊天服务商

在 AIRI 中接入 Groq:为"意识"配置高速 OpenAI 兼容聊天服务商

【免费下载链接】airi💖🧸 Self hosted, you-owned Grok Companion, a container of souls of waifu, cyber livings to bring them into our worlds, wishing to achieve Neuro-sama's altitude. Capable of realtime voice chat, Minecraft, Factorio playing. Web / macOS / Windows supported.项目地址: https://gitcode.com/GitHub_Trending/ai/airi

Groq 提供与 OpenAI 格式兼容的聊天 API,以极低的推理延迟著称。本文是 AIRI 项目的 Groq 服务商配置指南,围绕官方手册中的 Groq 页面展开,完整覆盖从获取 API Key、在"设置 → 服务商"中填入凭据、验证配置到常见问题排查的实战流程,并深入到 AIRI 的 provider 注册与校验源码,说明 Groq 在"意识"模块中的接入原理。读完本文,你将能够在 AIRI 中独立完成 Groq 的接入、验证与模型选择,让 AIRI 的对话"意识"跑在 Groq 的低延迟推理上。

为什么选择 Groq

在 AIRI 中接入聊天服务商,本质上是为它的"意识"(consciousness)模块挑选一个能理解并生成对话的"大脑"。AIRI 支持数十个云端与本地服务商(见 服务商注册表),每个服务商都有不同的延迟、价格与模型生态。

如果你重视对话响应速度,并且目标模型在 Groq 中可用,可以尝试此服务商。Groq 的 LPU(Language Processing Unit)推理平台以极低的 token 输出延迟著称,非常适合对首字响应(TTFT)敏感的实时对话场景——这与 AIRI 强调实时语音对话的产品定位天然契合。

从实现层面看,Groq 是 AIRI 中"标准的 OpenAI 兼容服务商":它不引入任何私有协议,而是复用createOpenAI工厂与 OpenAI 兼容校验器,这保证了接入流程的简单与可预测。

第一步:获取 API 密钥

Groq 使用 API Key 进行身份认证,获取方式如下:

  1. 打开 Groq 控制台(console.groq.com)。
  2. API Keys页面创建一个新的 API Key。
  3. 复制密钥并妥善保存。

::: warning API Key 安全 不要将 API Key 提交到仓库、放入截图,或发送给他人。密钥泄露后,请立即在 Groq 控制台撤销它并创建新密钥。AIRI 的凭据保存在当前设备的本地设置中,切勿在截图、日志、Issue 或聊天记录中公开 API Key。 :::

第二步:在 AIRI 中配置 Groq

获取密钥后,在 AIRI 中完成以下三步:

  1. 打开设置 → 服务商 → 聊天 → Groq
  2. 将 API Key 粘贴到基础设置中。
  3. 保留默认 Base URL:https://api.groq.com/openai/v1

从源码看 Groq 的配置结构

在 AIRI 的 provider 实现 packages/provider-inference/src/providers/cloud/groq/index.ts 中,Groq 的配置 schema 只有两个字段:

const groqConfigSchema = z.object({ apiKey: z.string('API Key'), baseUrl: z .string('Base URL') .optional() .default('https://api.groq.com/openai/v1/'), })
  • apiKey:必填的访问令牌,对应设置页中的 API Key 字段。在 UI 中它以type: 'password'的密码框形式呈现(index.ts),避免密钥在界面上明文展示。
  • baseUrl:可选,默认值为https://api.groq.com/openai/v1/(源码中带尾部斜杠,文档与设置页中显示时可能省略,两者等价)。只有当 Groq 官方文档明确要求变更时才需要修改。

Groq 的服务商定义

继续看 groq/index.ts,Groq 被声明为:

  • id: 'groq',全局唯一标识,注册表靠它来路由配置与请求;
  • tasks: ['chat'],即仅用于聊天任务,不承担 TTS/ASR;
  • capabilities.chat.reasoning支持enabled/disabled两种推理模式:开启时请求会附加reasoningEffort: 'medium',关闭时为'none'
  • icon: 'i-lobe-icons:groq',在设置页中显示 Groq 品牌图标。

该定义通过defineProvider注册,并随 portableProviderDefinitions 一起导出。注册表(registry.ts)会对所有 provider 按order与名称排序,并保证id唯一——这保证了"意识"设置页中服务商列表的稳定与确定性。

OpenAI 兼容的底层实现

createProvider内部通过createOpenAI(config.apiKey, config.baseUrl)构造请求客户端(groq/index.ts),这意味着 AIRI 与 Groq 之间走的是标准 OpenAI Chat Completions 协议,无需任何供应商专用 SDK。这也解释了为什么配置只需要 API Key 与 Base URL 两个字段。

第三步:验证配置

配置完成后,通过验证来确认一切就绪:

  1. Ping API:点击此按钮测试网络是否连通以及 API Key 是否填写正确。
  2. 选择模型:测试成功后,点击此处选择你想要使用的具体模型。

验证过程在源码中做了什么

Groq 复用了createOpenAICompatibleValidators(validators/openai-compatible.ts),并启用了ModelListChatCompletions两项检查(groq/index.ts)。点击验证时,实际执行了三类检查:

配置检查(check-config):校验 API Key 非空、Base URL 为合法的绝对 URL。Base URL 必须是https://http://开头的完整地址,否则直接判定为无效。

连接检查(check-connectivity):向${baseUrl}/models发起带Authorization: Bearer <apiKey>头的 GET 请求(超时 10 秒)。这对应界面上的Ping API按钮——它验证的是网络连通性与密钥有效性,而非真正发起对话。

聊天完成检查(check-chat-completions):调用generateText发送一条user: "ping"的探测消息(openai-compatible.ts),并携带max_tokens: 16的输出上限。该检查会消耗少量 Groq 额度,且结果会被缓存以避免重复扣费。Groq 模型列表由/models接口实时拉取,因此"选择模型"下拉中的选项始终与服务商当前可用模型保持一致。

在"意识"中选择 Groq 模型

验证通过后,还需要在"意识"页面完成最后一步启用:

  1. 打开设置 → 意识
  2. 选择服务商Groq与刚才验证过的具体模型。

注意:仅保存服务商凭据不会自动启用 Groq。必须在"意识"页面同时选中服务商和模型,AIRI 的对话才会真正走 Groq 通道。

Groq 官方文档会列出形如llama-3.3-70b-versatilellama-3.1-8b-instant等精确模型 ID。建议优先从 AIRI 下拉列表中选择;若列表加载失败,可在"意识"页面手动输入Groq 提供的精确模型 ID——模型 ID 必须与服务商文档完全一致,展示名称不是模型 ID。

排查指南

Ping API 失败

按以下顺序排查:

  1. 确认账户已开通 Groq 服务且有可用额度(免费额度过期或超额会返回 429/403)。
  2. 重新复制 API Key,检查是否带有多余的空格或换行;密钥泄露后及时在控制台撤销并重建。
  3. 将 Base URL 恢复为https://api.groq.com/openai/v1,并与 Groq 官方文档逐字核对。
  4. 确认网络、代理和防火墙允许访问api.groq.com——连接检查对 5xx 状态码与网络错误都会报"Connectivity check failed"(openai-compatible.ts)。

模型列表无法加载

如果"选择模型"下拉为空,先确认 API Key 拥有模型列表权限;部分服务商不提供模型列表或密钥权限受限。此时可在"意识"页面手动输入Groq 提供的精确模型 ID。

验证报错时对照源码提示

  • "API key is required.":apiKey 为空或被 trim 后为空(check-config)。
  • "Base URL is invalid. It must be an absolute URL.":Base URL 不是合法绝对地址。
  • "No model available for validation.":模型列表为空且未配置手动模型,需要先在意识页填入模型 ID(openai-compatible.ts)。

延伸阅读

  • 服务商配置通用说明:字段含义、验证结果与排查顺序的完整介绍。
  • 配置聊天模型(LLM):如何在"意识"中选择服务商与模型。
  • Groq 服务商源码:配置 schema、能力声明与 OpenAI 兼容校验器的完整实现。
  • OpenAI 兼容校验器:Ping API 与模型列表检查的底层逻辑。

【免费下载链接】airi💖🧸 Self hosted, you-owned Grok Companion, a container of souls of waifu, cyber livings to bring them into our worlds, wishing to achieve Neuro-sama's altitude. Capable of realtime voice chat, Minecraft, Factorio playing. Web / macOS / Windows supported.项目地址: https://gitcode.com/GitHub_Trending/ai/airi

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/12 14:23:06

Agent记忆处理机制:结构化、可演化、上下文感知的认知存档系统

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

作者头像 李华
网站建设 2026/9/12 14:21:48

四自由度SCARA机器人MATLAB轨迹规划仿真完整实践指南

做SCARA机器人轨迹规划仿真这事&#xff0c;很多人一开始拿到MATLAB就懵&#xff1a;明明文档里全是函数&#xff0c;可真到自己搭一个四自由度模型&#xff0c;却连DH参数都填不对。这篇文章不打算复述官方手册&#xff0c;而是把从建模到轨迹规划、再到仿真踩坑的完整过程摆出…

作者头像 李华
网站建设 2026/9/12 14:21:10

CMSIS-4不是标准,而是2013年封存的嵌入式工程契约

1. CMSIS-4不是“标准”&#xff0c;而是一套被时间封印的工程契约 CMSIS-4这个名词&#xff0c;今天在很多嵌入式工程师简历里、技术方案PPT中、甚至招聘JD里&#xff0c;依然带着一种“权威认证”的光泽。但如果你真把它当标准去用&#xff0c;尤其是想在新项目里直接拉进来跑…

作者头像 李华
网站建设 2026/9/12 14:20:24

Java技术栈在AI中台架构中的实践与优化

1. 企业智能化转型的痛点与破局点Java技术栈在企业级应用中占据主导地位&#xff0c;但传统Java架构在AI时代面临三大核心矛盾&#xff1a;首先是单体架构与AI算力需求的矛盾&#xff0c;传统Java EE架构难以支撑深度学习模型的高并发推理&#xff1b;其次是开发效率与AI复杂度…

作者头像 李华