- 人工智能
- 语音
- 模型量化
- 模型压缩
【免费下载链接】parakeet-redux
parakeet-redux 是一个 1.58 比特三值量化（ternary quantization）的自动语音识别（ASR）模型，基于 NVIDIA Parakeet-TDT 架构，把约 6 亿参数的模型权重压缩到仅 178 MB。这篇文章带你从trit（三进制位）、分组缩放、三进制打包三个角度，看懂它为什么能在 8 核 CPU 上跑出 113 倍实时转录速度，准确率却几乎不损失。
🔢 "1.58 比特"到底是什么
答案是一个字：trit。
三值量化把模型里每个浮点权重都压成三选一：
-1、0 或 +1在信息论中，一个能取 3 种值的数字，能携带的信息量是 log₂3 ≈1.585 比特——这就是"1.58 比特"名称的由来。注意：它不是指每个权重占 1.58 比特的存储空间，而是指每个权重只承载约 1.58 比特的信息量。
整个量化方案在 ternary.json 中只有一行规则：
w = scales[row, col // group_size] × (code − 1)，code ∈ {0, 1, 2}code 取 0、1、2 时分别对应 −1、0、+1，剩下的"幅度"由后面的 scale 负责。
🎚️ 分组缩放：128 个权重共用一个"音量旋钮"
如果所有权重都只有 −1/0/+1，模型早就废了。关键设计是：每 128 个连续权重共享一个 scale 系数（group_size = 128，见 config.json）。
换句话说：
- code 决定方向（正、负还是零）
- scale 决定幅度（这一组整体该乘多大）
这和 INT8 / INT4 量化的分组思想一脉相承，只是把 code 推到了极致——只剩 3 个取值。而"极致稀疏"带来了实打实的收益：ternary.json 里记录了每个模块的zero_fraction（零值占比），各模块在13%～78%之间浮动、多数接近一半。也就是说约四成权重计算时直接"跳过"，CPU 只需要做加减和变号，几乎不用做真正的乘法。
📦 三进制打包：1 个字节装 5 个权重
如果把 0/1/2 按二进制存，一个权重至少要 2 比特；parakeet-redux 更狠——ternary.json 定义了base 3、每字节存 5 个三进制数字的打包方式（行主序，最低位在前）：
| 项目 | 数值 |
|---|---|
| 每字节容量 | 3⁵ = 243 种组合，利用 8 比特的 95% |
| 每个权重物理占用 | 8 ÷ 5 = 1.6 比特 |
| 量化参数总量 | 603,979,776 个（占全部参数 96.3%） |
| 纯 code 数据量 | 约 115 MB |
加上每组 scale 和保留高精度的部分，整包 model.safetensors 只有177.7 MB——原始 1.2 GB 权重的1/7。
🧩 压缩的是什么？96% 的参数
config.json 的ternary_modules列出了全部 264 个被量化的模块：encoder 24 层的每一层中，注意力的 q/k/v/o 与 relative 位置投影、卷积层的 pointwise 卷积、两组前馈网络——encoder 的全部线性层。
而被"保护"起来的高精度参数（23,290,911 个，约 4%）包括：
- 2 层 decoder（逐字生成文本的部分）
- 投影层与 tokenizer.json 相关的词表结构
- 一个约 21 万参数的VAD head（ternary.json）：它挂在 encoder 下采样层上，转录长音频时由模型自己识别停顿、自动切分成不超过 30 秒的片段，无需外部 VAD 模型
"压大的、保小的"是精度守得住的关键之一：encoder 是计算最重的感知部分，decoder 参数少但对精度敏感。
⚡ 精度与速度：数据说话
WER（词错率，越低越好），对比来自 README.md：
| 指标 | 原始 parakeet-tdt-0.6b-v3 | parakeet-redux |
|---|---|---|
| 英语 7 项测试平均 WER | 6.26% | 6.55% |
| FLEURS 25 语言 WER | 11.62% | 10.56%✅ |
| TED-LIUM 长音频 WER | 2.71% | 2.51%✅ |
| 权重体积 | 1.2 GB | 178 MB✅ |
8 核 x86 CPU（LibriSpeech test-clean）实时因子对比（越高越快）：
| 运行方式 | 权重格式 | 实时倍速 |
|---|---|---|
| Photon + parakeet-redux | 三值，178 MB | 113× |
| parakeet.cpp | q8_0，0.94 GB | 45× |
| sherpa-onnx | int8，0.67 GB | 42× |
| onnx-asr | int8，0.67 GB | 28× |
比最快的竞品快约 2.5 倍不是玄学：178 MB 的权重能整体塞进 CPU 缓存，配合大量零值跳过，访存和运算双双受益。Apple M2 上 GPU 路径可达 43× 实时。
📢 诚实提示：嘈杂环境（信噪比 0 dB）下与原版差距最大（10.95% vs 9.06%），因为三值 encoder 的声学余量更薄，更容易替换成同音词。安静场景下则几乎无感。
🚀 快速上手：三行代码开始转录
配合 Photon 运行时（x86 走 AVX-512 VNNI、ARM 走 NEON、Apple 芯片走 Metal），用法非常简洁：
import moondream as md # pip install moondream，需 2.4.0 以上 with md.photon("moondream/parakeet-redux", device="cpu") as speech: result = speech.transcribe(audio="speech.wav") print(result["text"])加上timestamps="segment"参数还能拿到逐句时间戳。想手动下载全部权重，可以克隆仓库：
git clone https://gitcode.com/hf_mirrors/moondream/parakeet-redux仓库内容一目了然：model.safetensors（三值打包权重）、ternary.json（量化元数据）、config.json（模型结构）、tokenizer.json（分词器）。
📌 写在最后
- 1.58 比特 = log₂3：一个 trit 承载约 1.58 比特信息，每个权重只存 −1/0/+1
- 分组缩放：128 个权重共享一个 scale，code 管方向、scale 管幅度
- 三进制打包：1 字节存 5 个权重，1.2 GB → 178 MB
- 压 encoder、保 decoder：96% 参数三值化，英语 WER 差距在 0.3 以内
- 配合原始模型做教师（ternary.json 中的
source.teacher），"1.58 比特"才从数字游戏变成真正可用、极快的开源 ASR 模型
模型采用 CC-BY-4.0 许可证，可以放心用于自己的项目。
- 人工智能
- 语音
- 模型量化
- 模型压缩
【免费下载链接】parakeet-redux
相关推荐
Linux压缩与归档：Linux Upskill Challenge tar与gzip命令使用技巧
Linux压缩与归档：Linux Upskill Challenge tar与gzip命令使用技巧 Linux系统中，压缩与归档是日常操作的重要技能。无论是备份
从收藏夹到知识库：如何用BiliTools让B站视频变成你的个人学习资产
从收藏夹到知识库：如何用BiliTools让B站视频变成你的个人学习资产 你是否也曾被B站海量的优质内容淹没？那些收藏了却从未观看的教程视频，那些想要重温却找不
桌面应用音视频VitePress frontmatter 完全指南：用 YAML 元数据控制页面行为与访问数据
VitePress frontmatter 完全指南：用 YAML 元数据控制页面行为与访问数据 导读 frontmatter 是 VitePress 中控制
前端文档开发工具前端构建
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
