news 2026/6/25 11:51:49

【山东大学-丛润民组-AAAI26】通过对齐器和提示器增强DINO表征用于水下实例分割

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
【山东大学-丛润民组-AAAI26】通过对齐器和提示器增强DINO表征用于水下实例分割

文章:Empowering DINO Representations for Underwater Instance Segmentation via Aligner and Prompter

代码:https://github.com/ettof/Diveseg

单位:山东大学


一、问题背景:水下场景的AI“识别困境”

水下成像远比陆地复杂:光线被水吸收散射导致颜色失真(多偏蓝绿)、对比度低、能见度有限,再加上鱼群重叠、珊瑚密集等情况,传统技术很难精准分割目标。

此前的解决方案主要有两类短板:

  1. 传统卷积神经网络(CNN):能力有限,面对水下复杂场景时分割精度差,边界模糊;

  2. 现有视觉基础模型(如SAM):虽有强大泛化能力,但需要海量水下标注数据适配,且对水下高目标密度、视觉多变性的适配不足,性能提升有限。

而DINOv2这类先进的自监督视觉模型,虽在自然图像任务中表现出色,但因“领域差异过大”(没见过多少水下场景),直接套用会受背景噪声干扰,甚至漏检目标。如何让DINOv2“读懂”水下世界,成为关键突破口。

二、方法创新:两大核心模块破解适配难题

山东大学团队提出的DiveSeg框架,以DINOv2为基础,通过两个“专属工具”实现精准适配,整体架构简洁高效:

1. AquaStyle Aligner(水下风格对齐器):解决“颜色失真”问题

水下图片和自然图片的核心差异是颜色风格,这个模块专门负责“校准”这种差异:

  • 先通过傅里叶分解技术,提取水下图片的颜色风格特征(保留频率域的振幅信息,固定平均相位),过滤掉物体本身的干扰,只保留水下独有的色调特性;

  • 再通过跨注意力机制,将提取的风格特征注入DINOv2模型,用少量参数微调就让模型快速适应水下视觉风格,避免颜色失真导致的识别偏差。

2. ObjectPrior Prompter(目标先验提示器):解决“物体难寻”问题

DINOv2没见过太多水下特有物体(如珊瑚、水母),直接识别难度大。这个模块相当于给AI“划重点”:

  • 先生成一张“黑白掩码图”,用简单的二进制标记(黑色=背景,白色=物体)告诉模型“哪里有物体”;

  • 再将这张掩码图作为“提示信号”,通过跨注意力机制引导DINOv2聚焦目标区域,先学会区分“物体和背景”,再细分手下每个实例,大大降低学习难度。

两个模块协同工作,既让模型适应了水下的“视觉风格”,又帮模型找准了“关注重点”,完美解决了DINOv2的水下适配问题。

三、实验结果:双数据集刷新SOTA,性能全面领先

团队在UIIS和USIS10K两大主流水下实例分割数据集上做了全面测试,结果堪称“碾压级”:

1. 定量指标(核心性能参数)

2. 定性效果(视觉层面)

四、优势与局限

核心优势

  1. 性能顶尖:目前在两大数据集上都是最优表现,分割精度和边界准确性远超现有方法;

  2. 效率很高:仅用少量参数微调(DINOv2主干冻结),参数量比同类模型少40%以上,运行更高效;

  3. 通用性强:适配水下多种场景(海洋勘探、生态监测),支持7类常见水下物体识别。

现存局限

  1. 对极深水域、极低能见度的图片适配效果有待验证(现有数据集未覆盖此类极端场景);

  2. 依赖二进制掩码图作为提示,若掩码生成不准确,可能影响最终分割效果;

  3. 暂未支持实时视频分割,在水下机器人实时作业场景的应用还需优化。

五、一句话总结

DiveSeg框架首次将DINOv2模型成功应用于水下实例分割,通过风格对齐和目标提示两大创新,用更少参数实现了更高精度的分割效果,为海洋资源勘探、水下机器人作业等场景提供了更可靠的AI视觉解决方案。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/24 20:48:31

ComfyUI拖拽式工作流设计,让AI生成像搭积木一样简单

ComfyUI拖拽式工作流设计,让AI生成像搭积木一样简单 在今天的AI创作现场,一个设计师正为品牌客户批量生成风格统一的广告图。他没有打开传统的图形界面工具,也没有写一行代码,而是在浏览器中拖动几个模块——加载模型、输入提示词…

作者头像 李华
网站建设 2026/6/25 11:21:51

HunyuanVideo-Foley实时性测试:毫秒级音画同步延迟实测报告

HunyuanVideo-Foley实时性测试:毫秒级音画同步延迟实测报告 在短视频日更、直播常态化、影视工业化加速的今天,内容创作者面临一个共同挑战:如何在有限时间内产出高质量、高沉浸感的视听作品?其中,环境音与动作音效&am…

作者头像 李华
网站建设 2026/6/24 19:27:12

switch舞力全开 (1405合一典藏版)

舞力全开 Le-Le-Le-LEGACY (1405合一典藏版) illyasever 制作 打包:https://pan.quark.cn/s/78747d4909fc

作者头像 李华
网站建设 2026/6/24 19:38:42

Y2JB折腾 U盘升级文件<已经改好> etaHEN2.4B/kstuff整合版

变化,折腾过程中不自动关闭yt了,因为有时候会因为关闭yt导致加载工具箱失败,所以这里删除了关闭代码,现在用工具箱自己关闭。设置好了也能自动关闭U盘格式:exFATy2jb_update.zip 不要解压把文件夹里面的y2jb_update.zi…

作者头像 李华
网站建设 2026/6/25 10:06:56

Wan2.2-T2V-A14B + NPM安装脚本:一键部署自动化流程

Wan2.2-T2V-A14B NPM安装脚本:一键部署自动化流程 在影视预演、广告生成和虚拟内容创作领域,一个现实的挑战始终存在:如何快速将前沿AI模型从论文或Demo转化为可稳定运行的本地服务?尤其当面对像文本到视频(Text-to-V…

作者头像 李华
网站建设 2026/6/25 1:12:04

如何快速搭建开源IT资产管理系统:Snipe-IT完整入门指南

如何快速搭建开源IT资产管理系统:Snipe-IT完整入门指南 【免费下载链接】snipe-it A free open source IT asset/license management system 项目地址: https://gitcode.com/GitHub_Trending/sn/snipe-it 在数字化时代,IT资产管理系统已经成为企业…

作者头像 李华