FunASR部署指南：高可用语音识别服务搭建

FunASR部署指南：高可用语音识别服务搭建

1. 引言

随着语音交互技术的快速发展，构建稳定、高效、可扩展的语音识别服务已成为智能应用开发中的关键环节。FunASR 是一个功能强大的开源语音识别工具包，支持多种预训练模型和实时语音处理能力。本文将围绕基于speech_ngram_lm_zh-cn模型二次开发的 FunASR WebUI 系统（由开发者“科哥”维护），详细介绍如何部署一套高可用、生产级的中文语音识别服务。

该系统不仅集成了 Paraformer-Large 和 SenseVoice-Small 等先进模型，还提供了直观的 Web 操作界面，支持文件上传、浏览器录音、标点恢复、时间戳输出及多格式结果导出等功能，适用于会议转录、视频字幕生成、客服语音分析等多种场景。

本文目标是帮助开发者从零开始完成服务部署、配置优化与稳定性保障，确保在实际业务中实现高并发、低延迟、持续运行的语音识别能力。

---

2. 部署环境准备

2.1 硬件要求

为保证语音识别服务的高性能与响应速度，建议根据使用规模选择合适的硬件配置：

使用场景	CPU	内存	GPU	存储
开发测试	4核	8GB	可选（推荐）	50GB SSD
中小规模生产	8核	16GB	NVIDIA T4 / RTX 3060+	100GB SSD
大规模高并发	16核+	32GB+	多卡 A10/A100	500GB+ NVMe

说明：GPU 能显著提升推理速度，尤其对 Paraformer-Large 这类大模型至关重要。

2.2 软件依赖

• 操作系统：Ubuntu 20.04 / 22.04 LTS（推荐）
• Python 版本：3.9 或 3.10
• CUDA 版本：11.8 或 12.1（若使用 GPU）
• PyTorch：1.13+（支持 CUDA）
• Gradio：用于 WebUI 展示
• FFmpeg：音频格式转换支持

2.3 安装基础依赖

# 更新系统 sudo apt update && sudo apt upgrade -y # 安装 Python 环境 sudo apt install python3 python3-pip python3-venv ffmpeg -y # 创建虚拟环境 python3 -m venv funasr-env source funasr-env/bin/activate # 升级 pip pip install --upgrade pip

2.4 安装 FunASR 核心库

# 安装官方 FunASR pip install modelscope funasr torch torchaudio # 若需 GPU 支持，请安装对应版本 PyTorch # 示例：CUDA 11.8 pip install torch==1.13.1+cu118 torchvision==0.14.1+cu118 torchaudio==0.13.1 --extra-index-url https://download.pytorch.org/whl/cu118

---

3. FunASR WebUI 部署流程

3.1 获取项目代码

该项目为社区二次开发版本，包含 WebUI 和自动化脚本：

git clone https://github.com/kege/funasr-webui.git cd funasr-webui pip install -r requirements.txt

注意：请保留原始版权信息，尊重开发者“科哥”的开源贡献。

3.2 目录结构说明

funasr-webui/ ├── app.py # 主入口文件 ├── models/ # 模型缓存目录 ├── outputs/ # 输出结果保存路径 ├── utils/ # 工具函数（音频处理、VAD等） └── requirements.txt # 依赖列表

3.3 启动服务

# 激活环境 source funasr-env/bin/activate # 启动服务（默认端口 7860） python app.py --host 0.0.0.0 --port 7860 --device cuda

参数说明：

参数	说明
--host 0.0.0.0	允许外部访问
--port 7860	自定义端口
--device cuda/cpu	指定运行设备
--model_dir ./models	模型下载路径

启动成功后，可通过浏览器访问：

http://<服务器IP>:7860

---

4. 高可用架构设计

为了满足生产环境下的稳定性需求，需对单机部署进行增强，构建高可用语音识别服务集群。

4.1 架构图概览

[客户端] ↓ (HTTP) [Nginx 负载均衡] ↓ [FunASR 实例1] ←→ [共享存储 NFS] [FunASR 实例2] ←→ [共享存储 NFS] [FunASR 实例3] ←→ [共享存储 NFS] ↓ [Redis 缓存] + [日志中心 ELK]

4.2 关键组件说明

4.2.1 多实例部署

在同一局域网内部署多个 FunASR 服务实例，每个实例独立加载模型并监听不同端口：

# 实例1 python app.py --port 7861 --device cuda & # 实例2 python app.py --port 7862 --device cuda & # 实例3 python app.py --port 7863 --device cpu &

4.2.2 Nginx 反向代理与负载均衡

配置 Nginx 实现请求分发和 HTTPS 加密：

upstream funasr_backend { server 127.0.0.1:7861; server 127.0.0.1:7862; server 127.0.0.1:7863; } server { listen 443 ssl; server_name asr.yourdomain.com; ssl_certificate /path/to/cert.pem; ssl_certificate_key /path/to/key.pem; location / { proxy_pass http://funasr_backend; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; } }

优势：

• 提升整体吞吐量
• 单节点故障不影响服务
• 支持横向扩展

4.2.3 共享存储方案

所有实例共用一个outputs/目录，便于统一管理识别结果：

• 使用NFS或Samba挂载网络存储
• 或集成MinIO/S3对象存储用于长期归档

# 挂载 NFS 示例 sudo mount -t nfs 192.168.1.100:/data/funasr_outputs /home/user/funasr-webui/outputs

4.2.4 健康检查机制

通过/health接口监控服务状态：

@app.route('/health') def health(): return {'status': 'healthy', 'model_loaded': is_model_ready()}

Nginx 可结合health_check模块自动剔除异常节点。

---

5. 性能优化与调参建议

5.1 模型选择策略

模型名称	适用场景	推理速度	准确率
Paraformer-Large	高精度转录	较慢（需 GPU）	★★★★★
SenseVoice-Small	实时识别	快（CPU/GPU均可）	★★★☆☆

建议：

• 对准确率敏感 → 使用 Paraformer-Large + GPU
• 对延迟敏感 → 使用 SenseVoice-Small + 批量大小调小

5.2 批处理参数优化

调整batch_size_s参数控制每次处理的音频长度：

# 在调用识别接口时设置 recognizer = AutoSpeechRecognition(model="paraformer-zh") result = recognizer.transcribe(audio_file, batch_size_s=300) # 最长5分钟

• 小批量（60~120s）：适合流式识别，降低内存占用
• 大批量（300~600s）：提高吞吐，但增加延迟

5.3 显存优化技巧

对于显存有限的 GPU（如 8GB），可启用以下优化：

• FP16 推理：减少显存占用约 40%
• 模型卸载（offload）：部分层放回 CPU
• 动态 batching：合并多个短音频同时推理

# 启用半精度 model.half()

5.4 VAD 与 PUNC 合理使用

• VAD（语音活动检测）：避免静音段干扰，提升效率
• PUNC（标点恢复）：增强文本可读性，但略微增加耗时

建议开启组合：

• 会议记录 → ✅ VAD + ✅ PUNC
• 实时字幕 → ✅ VAD + ❌ PUNC（追求低延迟）

---

6. 生产环境运维实践

6.1 服务守护与自动重启

使用systemd管理服务生命周期：

# /etc/systemd/system/funasr.service [Unit] Description=FunASR WebUI Service After=network.target [Service] User=ubuntu WorkingDirectory=/home/ubuntu/funasr-webui ExecStart=/home/ubuntu/funasr-env/bin/python app.py --host 0.0.0.0 --port 7860 Restart=always Environment=PYTHONPATH=/home/ubuntu/funasr-webui [Install] WantedBy=multi-user.target

启用服务：

sudo systemctl enable funasr.service sudo systemctl start funasr.service

6.2 日志收集与监控

将日志输出到文件并接入 ELK 或 Prometheus：

import logging logging.basicConfig( filename='logs/asr.log', level=logging.INFO, format='%(asctime)s %(levelname)s %(message)s' )

关键监控指标：

• 请求成功率
• 平均识别耗时
• 模型加载状态
• GPU 利用率

6.3 安全防护措施

• 限制访问 IP：通过防火墙或 Nginx 白名单控制
• API 认证：添加 Token 验证（如 JWT）
• 防止大文件攻击：限制上传文件大小（建议 ≤100MB）
• 定期更新依赖：防范已知漏洞

---

7. 常见问题排查与解决方案

7.1 模型加载失败

现象：页面显示“模型未加载”或报错Model not found

解决方法：

1. 检查models/目录权限是否可写
2. 手动下载模型至缓存目录：

from modelscope.hub.snapshot_download import snapshot_download model_dir = snapshot_download('damo/speech_paraformer-large_asr_16k-CVOC-T')

3. 设置环境变量指定模型路径：

export MODELSCOPE_CACHE=./models

7.2 识别速度慢

可能原因与对策：

原因	解决方案
使用 CPU 模式	切换至 CUDA 设备
模型过大	改用 SenseVoice-Small
音频过长	分段处理或减小 batch_size_s
显存不足	启用 FP16 或更换更大显存 GPU

7.3 浏览器录音无响应

检查项：

• 是否使用 HTTPS 或localhost（浏览器限制非安全源访问麦克风）
• 浏览器是否允许麦克风权限
• 麦克风设备是否正常工作（可在系统设置中测试）

---

8. 总结

本文系统介绍了基于 FunASR 的高可用语音识别服务搭建全流程，涵盖：

• 环境准备与本地部署
• WebUI 功能详解与使用方式
• 多实例集群与 Nginx 负载均衡
• 性能调优与生产级运维策略

通过合理配置硬件资源、采用分布式架构、实施健康检查与日志监控，可以构建一套稳定、高效、易于维护的语音识别服务平台，满足企业级应用场景的需求。

未来可进一步拓展方向包括：

• 集成 ASR 结果后处理（关键词提取、情感分析）
• 支持 WebSocket 流式识别
• 构建私有化模型微调 pipeline

只要遵循本文的最佳实践，即可快速将 FunASR 投入实际业务运行，释放语音数据的价值。

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。