news 2026/5/2 0:31:32

基于Flutter的全平台AI语音助手开发：从架构到实战

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
基于Flutter的全平台AI语音助手开发：从架构到实战

1. 项目概述：一个全平台AI语音助手的诞生

最近在折腾一个挺有意思的项目，一个基于Flutter开发的全平台AI语音助手客户端，名字叫“小智”。这玩意儿挺有意思，它不只是一个简单的聊天机器人App，而是一个能跑在手机、电脑甚至网页上的“智能体”，主打实时语音对话，还能和硬件设备联动。我自己也一直在寻找一个能深度定制、并且能打通手机和智能家居的AI助手方案，市面上现成的App要么功能太封闭，要么就是云端服务延迟高得让人着急。所以，当看到这个开源项目时，我决定深入折腾一番，从源码编译到功能定制，把整个过程和踩过的坑都记录下来。

简单来说，这个项目就是一个用Flutter写的客户端，它通过WebSocket或者MQTT协议，连接到你自己的AI服务后端（比如支持Dify、OpenAI API的服务），实现语音唤醒、实时对话、音色克隆、甚至控制智能设备。它的价值在于，把复杂的AI能力封装成了一个你可以完全掌控的客户端，从界面主题到连接的AI服务，你都能自己定义。无论是想做一个私人语音助手，还是想为你的智能硬件项目增加一个“大脑”交互界面，这个项目都提供了一个非常棒的起点。

2. 核心架构与技术选型解析

2.1 为什么选择Flutter？

项目采用Flutter作为核心框架，这是一个非常关键且明智的选择。Flutter的优势在于“一次编写，多端部署”。对于AI助手这类需要覆盖最大用户群体的应用来说，分别维护Android、iOS甚至桌面端的原生代码，其成本和复杂度是惊人的。

  • 开发效率与一致性：使用Dart语言和Flutter的Widget体系，我们只需要维护一套代码库，就能生成iOS、Android、Web、Windows、macOS和Linux六个平台的应用。这意味着功能迭代和Bug修复对所有平台是同步的，保证了用户体验的一致性。对于小智助手这种需要频繁更新AI模型接入和交互逻辑的项目，效率提升是决定性的。
  • 性能表现：Flutter并非Hybrid框架（如Cordova），它直接通过Skia图形引擎渲染到画布上，避免了WebView的性能瓶颈，能够实现60fps的流畅动画。这对于需要实时显示语音波形、Live2D模型动画和流畅对话界面的应用至关重要。
  • 丰富的插件生态：Flutter拥有庞大的插件（package）生态系统。在这个项目中，像speech_to_text（语音识别）、record（音频录制）、web_socket_channel（WebSocket连接）、mqtt_client（MQTT连接）等关键功能，都有成熟稳定的插件支持，极大地降低了开发门槛。

注意：Flutter虽然强大，但其包体积（App Size）通常比纯原生应用要大一些。在最终发布时，需要通过flutter build命令的--split-debug-info和--obfuscate选项进行代码混淆和优化，并合理配置图片等资源，以控制安装包大小。

2.2 通信协议：WebSocket与MQTT的双重保障

客户端与服务端的通信是实时语音助手的生命线。项目同时支持WebSocket和MQTT两种协议，这并非冗余，而是针对不同场景的精心设计。

  • WebSocket：这是实现全双工、低延迟实时通信的基石。在对话过程中，客户端持续将录音的音频流（或转成的文本）通过WebSocket发送到服务端，服务端同时将AI生成的文本回复（或合成的音频流）实时传回。这种“流式”交互确保了用户说话后，AI能几乎无延迟地开始回应，避免了传统HTTP“一问一答”的等待感。
  • MQTT：这是一个轻量级的发布/订阅消息协议，在物联网领域应用极广。项目中引入MQTT，核心目的是为了实现服务端主动唤醒和与硬件设备联动。
    • 服务端主动唤醒：比如，你的智能家居传感器检测到异常，服务端可以通过MQTT向指定的客户端主题发布一条消息，客户端订阅该主题后，即使App在后台，也能被唤醒并播报警报。
    • 硬件端互通：家里的ESP32等智能设备也可以订阅MQTT主题。当你通过手机上的小智助手说“打开客厅灯”，指令经由服务端处理后再通过MQTT发布到“客厅灯”的主题，设备收到后即可执行。所有设备的对话上下文和记忆由服务端统一管理，实现了“记忆不串”。

这种双协议架构，使得小智助手既能作为独立的语音交互App，又能成为整个智能家居系统的语音控制中心。

2.3 音频处理核心：回音消除与实时打断

实时语音交互有两个技术难点：回音消除和实时打断。项目在V3版本中重点攻克了这两个问题。

  • 回音消除：当设备外放声音时，麦克风会再次采集到扬声器播放的声音，形成回音，导致语音识别准确率骤降。Flutter本身提供的音频录制插件在早期版本对AEC支持不完善。项目的解决方案是深入原生层进行优化。通过编写平台特定的代码（Android使用Java/Kotlin调用AudioRecord并设置正确的音频源如VOICE_COMMUNICATION；iOS使用Swift/Objective-C配置AVAudioSession为playAndRecord模式并启用options: .mixWithOthers和.duckOthers等），结合算法处理，最终实现了可靠的系统级回音消除，保证了在免提通话场景下的清晰拾音。
  • 实时打断：这是提升交互自然度的关键。想象一下，你正在听助手说话，但突然想打断它给出新指令。实现原理是双线程并行处理：
    1. 播放线程：持续播放从服务端接收到的AI回复音频流。
    2. 监听线程：在播放的同时，麦克风持续监听用户语音输入，并通过本地VAD（语音活动检测）算法快速判断用户是否开始说话。 一旦VAD检测到用户开始说话，立即向服务端发送一个“打断”信号，并停止当前音频播放，同时开始上传新的用户语音流。服务端收到信号后，会中止正在进行的AI文本生成或语音合成，转而处理新的用户输入。这个过程需要在百毫秒内完成，才能实现“无缝打断”的体验。

3. 从零开始：环境搭建与项目编译

3.1 开发环境配置

要编译和运行这个项目，你需要配置好Flutter开发环境。以下是详细步骤：

  1. 安装Flutter SDK：

    • 访问Flutter官网，根据你的操作系统下载稳定版SDK。
    • 解压到某个目录（例如C:\src\flutter或~/flutter）。
    • 将Flutter的bin目录添加到系统环境变量PATH中。

  2. 运行环境检查： 打开终端或命令提示符，运行以下命令进行环境检查：

    flutter doctor

    这个命令会检查所有依赖项。你需要确保：

    • Flutter本身已安装。
    • Android工具链：如果你要开发Android应用，需要安装Android Studio和Android SDK。flutter doctor会指导你完成。
    • iOS工具链：如果你在macOS上并要开发iOS应用，需要安装Xcode。
    • IDE：推荐使用Android Studio（安装Flutter和Dart插件）或Visual Studio Code（安装Flutter扩展）。

  3. 获取项目源码：

    git clone https://github.com/TOM88812/xiaozhi-android-client.git cd xiaozhi-android-client

  4. 获取项目依赖： 在项目根目录下运行：

    flutter pub get

    这个命令会读取pubspec.yaml文件，下载所有Dart包依赖到本地。

3.2 核心配置文件解析

在运行前，最关键的一步是配置客户端连接的服务端信息。这些配置通常位于lib/config或类似目录下的配置文件中。

你需要准备或搭建一个兼容的服务端。项目主要适配其作者自研的商业版服务端，但也支持连接标准的Dify或OpenAI API兼容服务。

  1. 定位配置文件：在项目中找到类似config.dart或constants.dart的文件。
  2. 配置连接参数：你需要修改以下关键参数：
    // 示例：WebSocket连接配置 const String WS_SERVER_URL = 'ws://your-server-ip:port/ws'; // 你的服务端WebSocket地址 const String MQTT_SERVER = 'your-mqtt-broker-ip'; // MQTT代理服务器地址 const int MQTT_PORT = 1883; const String CLIENT_ID = 'your_device_unique_id'; // 每个设备唯一的ID // 示例：API密钥配置（如果服务端需要） const String API_KEY = 'your-secret-api-key';
  3. 选择AI服务提供商：在客户端的设置界面，通常可以选择不同的AI模型提供商，如OpenAI的GPT系列、MiniMax等。你需要填入对应平台的API Key和Base URL。

实操心得：在测试阶段，我强烈建议先在本地或内网部署服务端进行调试。公网延迟和不确定性可能会掩盖客户端本身的Bug。可以使用ngrok或frp等内网穿透工具，将本地服务端临时暴露到公网，供手机App连接测试，这样能更快地定位问题是出在客户端、网络还是服务端。

3.3 编译与运行

配置完成后，就可以编译运行了。

  • 运行到Android设备/模拟器：

    flutter run

    确保已连接Android设备或启动了模拟器。flutter run命令会自动检测设备并安装运行。

  • 构建Android安装包：

    flutter build apk --release # 或构建 app bundle (用于Google Play发布) flutter build appbundle --release

    生成的APK文件位于build/app/outputs/flutter-apk/。

  • 运行到iOS设备/模拟器：

    flutter run

    （需在macOS上，且Xcode配置无误）

  • 构建iOS：

    flutter build ios --release

    然后使用Xcode打开ios/Runner.xcworkspace进行归档和发布。

  • 构建Web版本：

    flutter build web

    构建产物位于build/web目录，可以部署到任何静态网站服务器。

4. 核心功能模块深度体验与定制

4.1 多AI服务商与思考模式

客户端的一个强大之处在于它不绑定任何一家AI服务。在设置中，你可以轻松切换不同的“AI服务提供商”。

  1. 配置多个AI服务：你可以添加OpenAI、MiniMax、甚至是部署在本地或私有云上的开源模型（如通义千问、DeepSeek等，只要其API格式与OpenAI兼容）。这意味着你可以根据需求（速度、成本、能力）灵活切换。
  2. 思考模式：这是对接OpenAI最新模型能力的一个体现。当启用“思考模式”后，AI在回复前会先输出一段“思考过程”（Chain-of-Thought）。在客户端UI上，这通常以一种特殊的、可能是灰色的、斜体的文字显示出来，然后再显示正式回复。这不仅让交互更有趣，对于调试AI的推理逻辑也很有帮助。
  3. 联网搜索：部分AI服务（如配置了官方联网功能的OpenAI API）支持实时搜索。当用户提问最新事件时，AI可以调用搜索工具获取信息并整合进回答。客户端需要能正确解析和服务端返回的“工具调用”信息流。

定制建议：如果你想接入一个全新的、非OpenAI格式的API，你需要修改客户端中处理网络请求和解析响应的部分。通常需要创建一个新的AIServiceProvider类，实现sendMessage和handleStreamResponse等方法，并将其注册到客户端的服务工厂中。

4.2 Live2D与情绪化交互

Live2D模型的集成是提升助手拟人化和亲和力的亮点。它不是一个简单的GIF动画，而是可以响应语音节奏和内容做出不同动作、口型、表情的2D模型。

  1. 模型集成：项目支持导入标准的Live2D模型文件（.model3.json及配套的纹理图片）。你需要将模型文件放入项目的资源目录（如assets/live2d）。
  2. 驱动原理：客户端通过flutter_live2d等插件加载模型。在语音播放时，通过分析音频流的振幅或频率，实时驱动模型的“口型”参数（如ParamMouthOpenY）。同时，可以根据AI回复文本的情感分析结果（服务端可在回复中附带情绪标签），触发模型预设的“开心”、“疑惑”、“思考”等动作。
  3. 多模型切换：用户可以在设置中选择自己喜欢的角色模型，实现个性化装扮。

踩坑记录：Live2D模型对性能有一定消耗。在低端安卓设备上，可能会出现卡顿。优化方法是确保模型纹理尺寸适中，并在非前台时暂停模型渲染。另外，不同Live2D SDK版本导出的模型可能不兼容，需要确认插件支持的版本。

4.3 MCP客户端与功能扩展

MCP（Model Context Protocol）是项目实现功能无限扩展的“魔法”。你可以把它理解为一个标准化的“工具调用”协议。

  1. MCP是什么：它定义了一套模型（AI）如何发现、调用外部工具（如查天气、控制设备、记笔记）的规范。服务端实现了MCP Server，提供了各种工具（如“打开导航”、“播放音乐”、“创建待办”）。
  2. 客户端的作用：小智客户端作为MCP Client，在和服务端对话时，如果AI认为需要调用工具，它会返回一个特殊的工具调用请求。客户端收到后，并不直接执行，而是将这个请求格式化为MCP协议，转发给服务端上对应的MCP Server去执行。执行结果再通过服务端返回给AI，最终生成回复给用户。
  3. DIY扩展：这意味着，任何开发者都可以为自己的服务编写一个符合MCP协议的工具，并将其注册到小智的服务端。然后，用户在小智客户端里，就能直接通过语音或文字使用这个新功能。比如，你可以写一个工具“查询公司内部数据库”，那么对小智说“帮我查一下上个月的销售数据”，它就能调用这个工具并返回结果。

这个设计将AI的核心对话能力与具体的业务功能解耦，使得生态可以非常方便地扩展。

4.4 硬件端互通与IoT控制

这是将AI助手从虚拟App变为物理世界控制中心的关键。项目通过服务端和MQTT协议，实现了与ESP32等硬件设备的联动。

  1. 硬件端准备：你需要一个运行着兼容固件的ESP32设备。该固件需要连接相同的MQTT代理，并订阅它自己的控制主题（例如device/esp32_001/command）。
  2. 对话流程：
    • 用户对手机上的小智说：“打开书房灯。”
    • 手机客户端通过WebSocket将语音转文本后的指令发送给小智服务端。
    • 服务端的AI模型理解指令，识别出需要调用“灯光控制”工具，并确定目标设备是“书房灯”（对应设备IDesp32_001，动作turn_on）。
    • 服务端通过MQTT，向主题device/esp32_001/command发布一条消息：{"action": "turn_on", "target": "light"}。
    • ESP32设备收到MQTT消息，执行控制GPIO口拉高，打开继电器，灯亮。
    • 服务端将执行结果“已打开书房灯”返回给AI，AI生成最终回复，通过手机播放出来。
  3. 记忆不串：所有对话的上下文（Context）都保存在服务端，并以用户或会话ID进行区分。当同一个用户通过手机、或者通过家里的智能音箱（另一个硬件客户端）与AI对话时，它们连接的是服务端同一个会话上下文，因此AI记得之前的所有对话。但不同用户之间的记忆是隔离的。

5. 高级功能配置与优化技巧

5.1 音色克隆与声纹管理

商业版服务端集成了火山引擎等平台的音色克隆和声纹识别功能，客户端需要配合完成录制和设置。

  1. 音色克隆：

    • 原理：需要用户录制一段高质量的、包含丰富情感和音素的朗读文本（通常由服务提供方指定）。
    • 客户端操作：在“声纹管理”或“音色”页面，会引导用户朗读屏幕上的句子。客户端应用负责高保真地录制这段音频（采样率建议44.1kHz或以上，单声道即可），然后上传到服务端。
    • 服务端处理：服务端调用音色克隆API，提取这段音频的声学特征，生成一个唯一的“音色模型ID”。
    • 使用：生成后，在AI对话时，用户可以选择使用这个克隆音色来播报AI的回复，实现用自己或亲友的声音与AI对话。

  2. 声纹识别：

    • 目的：用于身份验证，实现“个性化助手”。例如，识别出是男主人后，AI可以称呼“先生”，并调取他的日程；识别出是孩子后，可以切换为儿童模式。
    • 录制：与音色克隆类似，但目的不同。需要录制用户说几个特定词语或一段话，用于提取声纹特征（如梅尔频率倒谱系数MFCC）。
    • 应用：在语音唤醒或持续对话时，服务端会对接收到的音频进行声纹识别，匹配预先注册的用户，从而实现无感身份切换。

重要提示：音色克隆和声纹数据属于高度敏感的生物信息。在自建服务时，必须确保传输和存储的加密，并明确用户隐私协议。最好将这类数据存储在用户自己的可控环境中。

5.2 主题自适应与UI定制

项目支持深色/浅色主题自适应，这对于移动端应用是基本要求。定制UI主要涉及Flutter的代码层面。

  1. 主题系统：Flutter使用ThemeData来统一管理颜色、字体、形状等。项目通常在lib/main.dart或一个独立的theme.dart文件中定义亮色 (lightTheme) 和暗色 (darkTheme) 两套主题数据。
  2. 跟随系统：通过MediaQuery.platformBrightnessOf(context)可以获取当前系统的亮度模式，动态切换主题。
  3. 自定义UI：
    • 修改颜色/字体：直接调整ThemeData中的primaryColor、textTheme等属性。
    • 修改组件样式：Flutter中几乎所有组件都有丰富的样式参数。如果你想修改对话气泡的样式，可以找到对应的BubbleWidget或ChatMessageWidget，修改其decoration（背景、边框、圆角）等。
    • 添加新页面：例如，项目预留了“记账”、“日记”页面。你可以在lib/pages目录下新建一个diary_page.dart，编写UI和逻辑，然后在主菜单导航中增加一个入口项。

一个实用技巧：在开发过程中，可以使用flutter_hooks或provider等状态管理包来管理全局的主题状态，使得主题切换能实时反映在所有页面上。

5.3 性能优化与内存管理

作为一个常驻后台可能进行语音监听的App，性能优化至关重要。

  1. 音频录制优化：
    • 采样率与位深：不是越高越好。对于语音识别，16kHz采样率、16位深、单声道（mono）已经足够，更高的设置只会增加数据量和处理负担。在record插件配置中明确设置这些参数。
    • 缓冲区大小：设置合适的录音缓冲区。太小会导致频繁IO操作，太大会增加延迟。通常10-20ms的缓冲区是一个不错的起点。
  2. 网络请求优化：
    • 连接保活：对于WebSocket和MQTT长连接，要实现心跳机制（ping/pong），防止被中间路由器或运营商NAT超时断开。
    • 断线重连：必须实现自动重连逻辑，并在UI上给用户友好的提示（如“正在重连...”）。
    • 数据压缩：对于上传的音频数据，可以考虑在客户端进行Opus编码压缩，大幅减少带宽占用。
  3. 状态管理与内存：
    • 对话记录分页加载：如果保存所有历史记录，列表会非常长。一定要实现分页加载，当用户滚动到底部时再加载更早的历史。
    • 图片/资源缓存：Live2D纹理、用户头像等资源应使用cached_network_image等插件进行缓存，避免重复下载。
    • 及时销毁控制器：在dispose()方法中，务必释放录音控制器、播放控制器、WebSocket/MQTT客户端等资源，防止内存泄漏。

6. 常见问题排查与实战解决方案

在实际部署和开发过程中，你肯定会遇到各种问题。下面是我遇到的一些典型问题及解决方法。

问题现象可能原因排查步骤与解决方案
编译失败，提示Dart版本冲突项目使用的Dart SDK版本与你本地环境不匹配。1. 查看项目根目录pubspec.yaml中的environment: sdk: “>=x.x.x <y.y.y”。
2. 运行flutter --version查看当前Dart版本。
3. 使用fvm(Flutter Version Management) 工具管理多个Flutter版本，切换到项目指定的版本。
运行后白屏，控制台报错1. 主要依赖包未成功获取或版本不兼容。
2. 原生平台配置错误（如iOS权限）。		1. 运行flutter clean然后flutter pub get。
2. 检查ios/Podfile和android/build.gradle中的配置，特别是minSdkVersion和targetSdkVersion。
3. 对于iOS，进入ios目录运行pod install。
语音识别完全没反应1. 麦克风权限未授予。
2. 语音识别插件初始化失败。
3. 录音格式与服务端不匹配。		1. 检查App是否已获得麦克风权限（Android:RECORD_AUDIO, iOS:NSMicrophoneUsageDescription）。
2. 在代码中打印语音识别插件的初始化状态。
3. 确认客户端录音的采样率、编码格式与服务端语音识别API的要求一致。
能录音但服务端无回复1. WebSocket/MQTT连接失败。
2. 网络请求被拦截（证书、代理）。
3. 服务端API路径或参数错误。		1. 在客户端添加网络日志，打印连接状态和收发数据。
2. 使用Postman或curl直接测试服务端API，确认其正常工作。
3. 检查客户端配置的服务器地址、端口、API Key是否正确。对于HTTPS/WSS，检查证书是否有效（调试时可临时允许非授信证书）。
有回复但无语音播放1. 音频播放插件初始化失败。
2. 服务端返回的音频格式客户端不支持。
3. 系统音频通道被占用或音量静音。		1. 检查播放器状态。尝试播放一个本地MP3文件，确认基础播放功能正常。
2. 查看服务端返回的音频数据格式（如MP3, PCM, WAV）。客户端可能需要配置对应的解码器。
3. 检查手机是否处于静音模式，或媒体音量是否被调至最低。
Live2D模型不显示或闪烁1. 模型文件路径错误或资源未打包进App。
2. 纹理尺寸过大，GPU内存不足。
3. Flutter与原生插件通信问题。		1. 确认pubspec.yaml的assets部分包含了模型所有文件。
2. 尝试使用纹理尺寸更小的模型，或对纹理进行压缩。
3. 检查flutter_live2d插件版本是否与Flutter SDK兼容。查看插件原生端的日志。
App在后台被系统杀死移动端系统为节省资源会清理后台进程。1.Android: 配置前台服务 (foreground_service)，并在通知栏显示持续运行的提示。使用workmanager插件处理重要任务。
2.iOS: 在Info.plist中声明UIBackgroundModes包含audio和voip，并确保使用正确的AVAudioSession类别（如.playAndRecord）。
实时打断功能不灵敏1. VAD（语音活动检测）灵敏度阈值设置不当。
2. 网络延迟过高，打断信号传输慢。
3. 音频播放停止与录音启动不同步。		1. 调整VAD算法的阈值参数，在安静环境和嘈杂环境下分别测试，找到一个平衡点。
2. 优化网络环境，或考虑在客户端本地进行更快速的端点检测（如能量检测）。
3. 确保代码逻辑是“停止播放”和“开始录音”在一个同步块中执行，避免中间有耗时操作。

调试心法：遇到复杂问题时，采用“分而治之”的策略。例如语音交互问题，可以分解为：录音是否正常 -> 音频数据是否成功发送 -> 服务端是否收到并处理 -> 回复数据是否成功返回 -> 客户端是否成功接收并解析 -> 播放是否正常。在每个环节加入日志或本地保存临时文件（如录音的WAV文件、接收的音频数据），就能快速定位问题环节。

折腾这个项目的整个过程，更像是在搭建一个属于自己数字世界的“交互中枢”。从最开始的环境配置磕磕绊绊，到成功编译出第一个能对话的APK，再到深入代码理解其双协议通信和实时打断的机制，最后尝试着加入自己定制的小功能。最大的体会是，开源项目的价值不仅在于它实现了什么功能，更在于它提供了一套可扩展、可学习的架构。你可以把它当成一个功能完整的成品来用，更可以把它当作一个绝佳的样板，去实践Flutter跨端开发、实时音视频处理、AI应用集成乃至IoT联动的全链路知识。如果你也厌倦了千篇一律的智能音箱，想拥有一个能深度定制、无处不在的AI伙伴，从这个项目开始动手，会是一段充满挑战但收获颇丰的旅程。

版权声明: 本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若内容造成侵权/违法违规/事实不符，请联系邮箱：809451989@qq.com进行投诉反馈，一经查实，立即删除！
网站建设 2026/5/2 0:26:25

法律智能研究系统LawThinker架构与应用解析

1. 项目背景与核心价值在快速变化的司法实践中&#xff0c;法律从业者每天需要处理海量判例、法规更新和学术观点。传统法律研究工具往往存在三个痛点&#xff1a;一是信息更新滞后&#xff0c;二是缺乏跨领域关联能力&#xff0c;三是难以适应具体案件的个性化需求。LawThinke…

作者头像 李华
网站建设 2026/5/2 0:16:42

LPF框架：多源信息融合在金融风控中的实践

1. 项目背景与核心价值去年在金融风控项目中遇到一个典型难题&#xff1a;单一AI模型在跨领域数据上的表现极不稳定。当我们需要同时处理用户交易记录、社交网络行为和设备指纹信息时&#xff0c;传统方法要么丢失关键特征&#xff0c;要么陷入维度灾难。这促使我开始探索多源信…

作者头像 李华
网站建设 2026/5/2 0:15:38

SCOUT框架：LLM与强化学习的高效探索协作方案

1. 框架定位与核心价值在当今大规模语言模型&#xff08;LLM&#xff09;与强化学习&#xff08;RL&#xff09;结合的领域里&#xff0c;存在一个明显的技术断层&#xff1a;传统RL算法需要消耗大量计算资源进行环境探索&#xff0c;而直接调用LLM进行决策又面临响应延迟高、成…

作者头像 李华
网站建设 2026/5/2 0:08:31

在物联网设备开发中集成AI，利用Taotoken实现稳定低成本的模型调用

在物联网设备开发中集成AI&#xff0c;利用Taotoken实现稳定低成本的模型调用 1. 物联网设备与AI集成的典型架构 物联网设备通常采用资源受限的微控制器&#xff08;如STM32F103C8T6&#xff09;&#xff0c;难以直接运行大模型推理。实际工程中更合理的架构是将AI能力部署在…

作者头像 李华