【免费下载链接】sapiens2-seg-1b-bf16
Meta 人体分割模型 Sapiens2,为什么值得你花时间了解
sapiens2-seg-1b-bf16是 sapiens2-seg-1b-bf16 仓库提供的一份模型权重:它把 Meta 出品的人体中心视觉模型 Sapiens2(ICLR 2026)的 1B 参数分割版本,转换成了适配 Apple Silicon(M 系列芯片)的 MLX 格式,推理精度为 bf16。
简单来说,它能做一件事:给你一张带人物的照片,输出每个像素属于哪个身体部位的彩色标签图——头部、躯干、上臂、前臂、手掌、大腿、小腿、脚掌……一共29 类人体部位。
这个仓库的价值在于:
- 🍎原生跑在 Mac 上:MLX 是 Apple 专为自家芯片设计的机器学习框架,无需独显、无需 GPU 云,笔记本本地推理
- 📦体积减半:bf16(bfloat16)精度存储,模型文件约 2.94 GB,只有原始 float32 权重的一半大小
- ⚡格式已优化:每个 Transformer 层的 q/k/v 投影已合并为单个
wqkv张量,完全对齐 mlx-vlm 的 Sapiens2 模型实现,加载即用
一分钟上手:安装 mlx-vlm 并运行第一次推理
不需要 clone 仓库、不用下载权重文件——模型会自动按需下载。
第一步:安装 mlx-vlm
pip install -U mlx-vlm第二步:加载模型并做分割(完整说明见 README.md):
from mlx_vlm import load from mlx_vlm.models.sapiens2.generate import Sapiens2Predictor, read_image model, _ = load("mlx-community/sapiens2-seg-1b-bf16") predictor = Sapiens2Predictor(model) segmentation = predictor.infer(read_image("image.jpg"))["segmentation"] # (H, W) class ids就这几行代码,segmentation是一个和输入图像同分辨率的二维数组(H × W),每个位置的值是 0~28 的类别编号。
输出怎么解读
- 拿到类别编号后,用调色板(color map)渲染成彩色图,就是常见的语义分割可视化效果:同一颜色区域 = 同一身体部位
- 分割结果在输入分辨率下输出(稠密任务),姿态类任务则输出原图像素坐标
- 图像预处理由
Sapiens2ImageProcessor完成(定义在 preprocessor_config.json):缩放到 1024×768、用 ImageNet 均值/方差做归一化,这些细节库内部已处理,无需手动干预
模型档案:1B 参数背后的关键参数
以下信息整理自 config.json,帮你判断它是否适合你的项目:
| 参数 | 数值 | 说明 |
|---|---|---|
| 架构 | Sapiens2ForSemanticSegmentation | 语义分割专用模型 |
| Transformer 层数 | 40 | 前 8 层与后 8 层为全注意力,中间层混合使用 |
| 隐藏维度 | 1536 | 24 个注意力头,KV 头 12 个(GQA 结构) |
| 输入分辨率 | 1024 × 768 | 预处理默认尺寸 |
| Patch 大小 | 16 | ViT 风格切片 |
| 输出类别 | 29 类 | 人体部位标签LABEL_0~LABEL_28 |
| 激活函数 | SiLU | 配合 Gated MLP |
| 位置编码 | RoPE(theta=100.0) | 旋转位置编码 |
解码头(sapiens2_head)通过 4 级反卷积上采样(输出通道 512→256→128→64),把特征图放大回原图尺寸,再输出 29 类 logits——典型的"编码器 + 解码器"分割结构。
完整的张量清单可在 model.safetensors.index.json 中查到,权重本体为 model.safetensors(2.94 GB,全部 bfloat16)。
内存要求与硬件建议
- 权重约2.94 GB(bf16),加上 1024×768 输入下的中间激活,16 GB 统一内存的 Mac 可以舒服运行;8 GB 机型建议先测试再决定
- 得益于 MLX 的内存统一架构,Mac 的 CPU/GPU 共享内存,无需像 NVIDIA 生态那样纠结显存分配
- 推理走 bf16 混合精度,与官方参考实现(Meta 原版)的推理方式一致,精度对齐
常见问题 FAQ
Q:和 Meta 原版facebook/sapiens2-seg-1b有什么区别?A:能力相同,这份是 MLX 格式的 bf16 转换版(由 mlx-vlm 0.7.0 转换),专为 Apple Silicon 优化。原版 float32 权重体积是其 2 倍。
Q:没有 NVIDIA 显卡也能跑人体分割吗?A:可以,这正是本仓库的意义。Mac 本地即可推理,数据不出机器,隐私友好,也适合做视频通话背景处理、健身动作分析、虚拟试衣等前端的原型验证。
Q:模型权重会自动下载吗?A:会。load("mlx-community/sapiens2-seg-1b-bf16")首次运行时自动从 Hugging Face Hub 拉取,之后走本地缓存。
Q:输出是图片吗?A:不是,输出是 numpy 类别数组(class ids),需要自己渲染成彩色图。29 类中,semantic_loss_ignore_index为 255 表示忽略像素(背景标注)。
写在最后
sapiens2-seg-1b-bf16 让你免费、本地、零 GPU 成本地在 Mac 上体验 Meta 最新的人体部位分割能力:29 类细粒度标签 + 1B 参数规模 + bf16 半体积,是当前 Apple Silicon 上做人体语义分割的实用选择。配合 README.md 中的三步代码,五分钟即可看到第一张分割结果。
⚠️ 注意:模型遵循 Meta 的 sapiens2-license(非开源许可证),商业使用前请自行阅读原版模型卡的许可条款;本仓库的
license字段标注为other。
【免费下载链接】sapiens2-seg-1b-bf16
相关推荐
sapiens2-normal-1b-bf16完全指南:Meta Sapiens2人体表面法线估计模型登陆Apple Silicon
sapiens2 normal 1b bf16完全指南:Meta Sapiens2人体表面法线估计模型登陆Apple Silicon 📦 sapiens2 n
react-native-gesture-handler 手动手势(Manual Gesture)之 onTouchesUp:多指抬起检测与手势状态收尾实战
react native gesture handler 手动手势(Manual Gesture)之 onTouchesUp:多指抬起检测与手势状态收尾实战 本
1.5GB模型跑进一台Mac:embeddinggemma-2-bf16在Apple Silicon上的部署指南
1.5GB模型跑进一台Mac:embeddinggemma 2 bf16在Apple Silicon上的部署指南 如果你想在 Apple Silicon 的 M
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考