你把一段 MP3 拖进网页端的人声分离工具，十几秒后输出六条分轨——人声、鼓、贝斯、钢琴、吉他、其他。同样的操作在本地跑 Demucs，RTX 3060 也要跑接近一分钟。更让人困惑的是，网页端是免费的，本地跑还要掏电费。
很多人以为"在线工具肯定用了简化模型，质量不如本地跑完整版"。这个认知需要修正。在线工具能接近甚至匹配本地大模型的效果，不是因为魔法，而是因为服务端推理在三个层面做了本地做不到的事。
第一个层面：模型架构——同样的 Demucs，服务端跑的是"完全体"
本地跑人声分离，通常用的是社区发布的预训练权重——比如 Demucs v4 的 `htdemucs` 或 `htdemucs_ft`。这两个模型是通用型的，在 MusDB18 数据集上训练，SDR 约 8-10dB。但服务端可以针对特定场景做 Fine-tuning。
关键差异在三个地方：
一是训练数据。服务端可以积累海量的用户上传数据（当然，在隐私合规的前提下），用这些数据做增量训练。比如用户频繁上传 Live 现场录音，服务端就可以专门训练一个"Live 增强"分支，对混响和观众噪声的抑制能力远超通用模型。
二是模型集成。服务端可以同时跑 3-5 个模型变体，然后对输出做加权融合。这相当于用集成学习（Ensemble）的思路，把多个模型的预测结果取加权平均——SDR 通常能提升 1-2dB。本地跑一个模型都要一分钟，跑 5 个再融合，时间成本不现实。
三是分轨策略。通用 Demucs 输出 6 轨（人声/鼓/贝斯/钢琴/吉他/其他），但服务端可以根据音源类型动态调整轨数。比如检测到输入是纯器乐，就只输出 3 轨（钢琴/吉他/其他），减少不必要的计算；检测到是摇滚乐，就额外拆分一套鼓组（底鼓/军鼓/镲片）。这种动态分轨在本地端很难实现，因为需要额外的前端分类模型。
第二个层面：算力架构——GPU 不只是"快一点"
你可能会说：本地也有 GPU。但服务端的 GPU 有三个本地不具备的优势。
第一是显存。本地 RTX 3060 只有 12GB 显存，跑 Demucs 6 轨模型权重约 330MB，看起来够用。但实际的推理过程需要加载完整的音频缓冲区（四分钟 44.1kHz 立体声 ≈ 42MB Float32），加上中间特征图（STFT 频谱、时频掩码、各层激活值），峰值显存占用约 2-3GB。服务端的 A100 有 80GB 显存，可以同时加载多个模型变体，做批量推理。
第二是推理精度。本地跑 Demucs 通常用 Float32，但服务端可以用 BF16（Brain Float 16）做推理，在几乎不损失精度的情况下把吞吐量翻倍。BF16 的指数位和 Float32 相同（8 位），尾数位减半（7 位 vs 23 位），对于神经网络的矩阵乘法运算，BF16 的精度损失可以忽略不计，但显存和带宽需求减半。
第三是批处理。服务端同时处理多个用户的请求，可以把多个音频文件在 GPU 上做 Batch Inference。假设一次 Batch 4 个文件，4 个文件共享一次模型加载和内核启动开销，平均每个文件的处理时间只有单文件处理的 60-70%。本地端永远是单文件，享受不到批处理的红利。
第三个层面：工程优化——从音频编码到网络传输的全链路加速
服务端推理的工程优化链条比本地端长得多，但做得好反而可以比本地端更快。
预处理阶段：服务端可以直接在 GPU 上做音频解码和 STFT 变换。本地端通常先用 CPU 解码 MP3 到 PCM，再转到 GPU 上做 STFT——这一步 CPU-GPU 数据传输在本地端不可省略，但服务端可以把音频文件直接从网络流 pipe 到 GPU 显存，跳过 CPU 中转。
推理阶段：服务端可以预编译模型的计算图，用 TensorRT 或 ONNX Runtime 做算子融合和内核调优。Demucs 的核心是 LSTM 层和卷积层，TensorRT 可以把多个连续的卷积-BatchNorm-ReLU 融合成一个内核，减少显存访问次数。本地端通常直接用 PyTorch 跑，没有这些优化。
后处理阶段：服务端在 GPU 上做完 ISTFT（逆短时傅里叶变换）后，直接在 GPU 上编码为 MP3 或 WAV 再传回客户端。本地端需要把 GPU 结果拷回 CPU 再编码，又一次数据传输
落地方案：什么时候用在线，什么时候用本地
对于日常的人声分离、伴奏提取、多轨分离需求，在线工具在质量和速度上完全不输本地模型，而且不需要安装、没有次数限制。你把音频上传到网页端处理，十几秒就能下载分轨结果，整个过程不需要配置 Python 环境、不需要下载几十 GB 的模型权重。
在 在线音频处理平台 上直接操作。如果需要对鼓组、贝斯、钢琴等做精细的分轨处理，用 免费音轨分离工具 可以在服务端 GPU 上跑完整的 Demucs 模型，输出质量与本地跑完全一致甚至更好。
本地的价值在于：你是音频工程师，需要精细控制模型参数、需要离线处理敏感素材、或者需要把分离集成到自己的自动化流水线里。对于其他场景，在线工具已经足够。
认知收尾
"免费"和"高质量"不矛盾，矛盾的是你用本地的思维框架去理解服务端。服务端推理在模型架构、算力密度、工程优化三条线上同时发力，每一条线单独看都不算革命性，三条线叠加在一起，就是质变。搞懂这三条线在做什么，比纠结"在线 vs 本地哪个更好"有用得多。
