news 2026/10/5 10:44:50

教程上新丨30毫秒处理100个检测对象,SAM 3实现可提示概念分割,性能提升2倍

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
教程上新丨30毫秒处理100个检测对象,SAM 3实现可提示概念分割,性能提升2倍

在视觉场景中识别并分割任意物体的能力,是多模态人工智能的重要基础,可广泛应用于机器人、内容创作、增强现实、数据标注等领域。SAM(Segment Anything Model)是 Meta 于 2023 年 4 月发布的人工智能通用模型,提出了针对图像和视频的可提示分割任务,主要支持基于点、框或掩码的提示来分割单个目标。

已推出的 SAM、SAM 2 模型在图像分割领域取得了显著进展,但仍未实现在输入内容中自动寻找并分割某一概念的所有实例。为填补这一空白,Meta 推出最新迭代版本 SAM 3,新版本不仅显著超越了前代模型的可提示视觉分割(PVS)性能,更率先为可提示概念分割(PCS)任务确立了新标准。

SAM 3 在点击提示的视觉分割方面(左图)超越了 SAM 2 并引入了新的可提示概念分割功能(右图)

SAM 3 架构包含一个检测器(detector)与一个跟踪器(tracker),二者共享同一视觉编码器。检测器基于 DETR 框架构建,能够接收文本、几何信息或示例图像作为条件输入。为应对开放词汇概念检测的挑战,研究人员引入了一个独立的「存在头(presence head)」,以此解耦识别与定位过程。

跟踪器则沿用了 SAM 2 的 Transformer 编码器-解码器架构,支持视频分割与交互式优化。这种检测与跟踪分离的设计,有效避免了两项任务之间的冲突:检测器需要保持身份无关性,而跟踪器的核心目标正是在视频中区分并维持不同对象的身份。

SAM 3 架构图

SAM 3 在基准测试 SA-Co 的图像和视频 PCS 任务上取得了 SOTA 结果,性能是前代系统的 2 倍,且在 H200 GPU 上,新版本处理包含超 100 个检测对象的单张图像仅需 30 毫秒。模型还能扩展到 3D 重建领域,助力家装预览、创意视频编辑和科学研究等多场景应用,为计算机视觉的未来发展提供强大动力。

「SAM3:视觉分割模型」已上线至 OpenBayes 公共教程板块,快来开启你的创作之旅吧!

教程链接:

https://go.openbayes.com/pnzQk

查看论文:

https://arxiv.org/abs/2511.16719

Demo 运行

01 Demo 运行阶段

1.登录 http://OpenBayes.com,在「公共教程」页面,选择「SAM3:视觉分割模型」教程。

2.页面跳转后,点击右上角「克隆」,将该教程克隆至自己的容器中。

3.选择「NVIDIA GeForce RTX 5090」以及「PyTorch」镜像,按照需求选择「按量付费」或「包日/周/月」,点击「继续执行」。新用户使用下方邀请链接注册,可获得 4 小时 RTX 5090 + 5 小时 CPU 的免费时长!

小贝总专属邀请链接(直接复制到浏览器打开):

https://go.openbayes.com/9S6Dr

4.等待分配资源,首次克隆需等待 3 分钟左右的时间。当状态变为「运行中」后,点击「API 地址」旁边的跳转箭头,即可跳转至 Demo 页面。请注意,用户需在实名认证后才能使用 API 地址访问功能。

02 效果演示

Demo 运行页面提供 Image Segmentation、Video Text Prompting、Video Point/Box Prompting 三个功能,仅支持英文输入。本教程以 Video Text Prompting 为例。

将测试视频上传后,在「Text Prompt(s)」处输入需要识别分割的名词短语,依次点击「Apply Text Prompt(s)」「Propagate across video」以应用提示词,最后点击「Render MP4 for smooth playback」即可生成带有高亮识别目标的视频结果。

一起来看看小贝使用近期热映的《疯狂动物城2 》的预告片段进行的测试👇

教程链接:

https://go.openbayes.com/pnzQk

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/10/5 6:15:37

AC6966B蓝牙音箱电路设计完整指南:从原理图到产品生产

AC6966B蓝牙音箱电路设计完整指南:从原理图到产品生产 【免费下载链接】AC6966B蓝牙音箱标准原理图下载分享 AC6966B蓝牙音箱标准原理图下载 项目地址: https://gitcode.com/Open-source-documentation-tutorial/d58d7 AC6966B是杰理公司推出的一款高性能蓝牙…

作者头像 李华
网站建设 2026/10/4 12:25:07

Cesium中实现流光线

概要 Cesium中实现流光线,本质上是在特定的时间改变颜色等属性即可。可以通过MaterialProperty实现,但是它是用在Entity上的,如果要用Primitvie上就得通过自定义的Material实现。要想Material实现会动的效果,需要借助Cesium的一些…

作者头像 李华
网站建设 2026/10/4 9:24:34

Docker部署边缘Agent常见问题解析(避坑指南+性能调优)

第一章:边缘 Agent 的 Docker 轻量级部署概述在物联网与边缘计算快速发展的背景下,边缘 Agent 作为连接终端设备与云端服务的核心组件,其部署效率与资源占用成为关键考量因素。Docker 容器化技术凭借轻量、可移植和隔离性强的优势&#xff0c…

作者头像 李华
网站建设 2026/10/5 1:14:06

轻量文件加密软件推荐:2025 年 5 款不占内存软件实测

在数据安全愈发重要的当下,轻量不占内存的文件加密工具成为刚需。2025 年实测 5 款优质软件,它们兼顾加密强度与运行效率,无需复杂配置即可快速上手,适配个人办公与小型团队协作场景,帮你轻松守护文件隐私,…

作者头像 李华
网站建设 2026/10/2 23:26:52

VSCode中实现量子电路仿真的完整路径(量子开发者的隐藏武器)

第一章:VSCode中实现量子电路仿真的完整路径(量子开发者的隐藏武器)在现代量子计算开发中,VSCode 已成为开发者不可或缺的集成环境。结合强大的扩展生态与开源量子框架,它为构建、仿真和调试量子电路提供了前所未有的便…

作者头像 李华
网站建设 2026/10/3 21:21:05

阿里一面灵魂一问:RPC或者HTTP什么时候需要序列化和反序列化?

有位读者问了,我这么一个问题: 不管是 RPC 或者 HTTP,只要传输的内容是「对象」,要想在接收方还原出一摸一样的「对象」,那就需要序列化和反序列化。 那什么是序列化和反序列化呢? RPC 能帮助我们的应用透明…

作者头像 李华