news 2026/6/19 5:58:07

即插即用系列(代码实践)| AAAI 2025 TBSN:基于Transformer的盲点网络——自监督去噪新SOTA,彻底解决注意力机制信息泄露难题

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
即插即用系列(代码实践)| AAAI 2025 TBSN:基于Transformer的盲点网络——自监督去噪新SOTA,彻底解决注意力机制信息泄露难题

论文题目:Rethinking Transformer-Based Blind-Spot Network for Self-Supervised Image Denoising

中文题目:重新思考用于自监督图像去噪的基于Transformer的盲点网络
论文出处:arXiv 2025 (最新自监督去噪研究)
应用任务:自监督图像去噪 (Self-Supervised Image Denoising, SSID)、盲点网络 (BSN)
核心模块:Dilated G-CSA (扩张分组通道注意力), Dilated M-WSA (扩张掩码窗口注意力)

摘要
本文提取自2025年最新论文《Rethinking Transformer-Based Blind-Spot Network for Self-Supervised Image Denoising》。针对自监督去噪任务中,主流的盲点网络(Blind-Spot Network, BSN)长期被 CNN 统治,而强大的 Transformer 因Attention 机制容易泄露中心像素(Blind-Spot)信息而无法应用的痛点,复现了其核心组件——TBSN(Transformer-based BSN)。该模块通过重新设计通道注意力和空间注意力,在保留 Transformer 强大建模能力的同时,严格遵守盲点约束,是无参考图像去噪领域的重大突破。


目录

    • 第一部分:模块原理与实战分析
      • 1. 论文背景与解决的痛点
      • 2. 核心模块原理揭秘
      • 3. 架构图解
      • 4. 适用场景与魔改建议
    • 第二部分:核心完整代码
    • 第三部分:结果验证与总结

第一部分:模块原理与实战分析

1. 论文背景与解决的痛点

在没有干净参考图(Ground Truth)的情况下进行图像去噪(即自监督去噪),通常采用盲点网络(BSN)。它的核心逻辑是:利用周围的像素预测中心像素,因为噪声通常是独立的,而图像信号是相关的。

然而,现有的 BSN 几乎全是用 CNN(特别是扩张卷积)做的,因为卷积很容易设计成“不看中心点”。Transformer 虽然在图像复原(如 Restormer)中效果拔群,但想用在 BSN 里却有两个致命缺陷:

  1. 通道注意力的泄露:在多尺度架构中,下采样操作会将空间信息混入通道维度,导致计算通道注意力时“偷看”到了中心像素。
  2. 空间注意力的泄露:标准的 Self-Attention 计算全局或窗口相关性时,Query 会不可避免地和自身的 Key/Value 交互,直接破坏了盲点假设。

痛点总结:我们需要一种既有 Transformer 的长距离建模能力,又能像扩张卷积一样严格屏蔽中心像素的注意力机制。

2. 核心模块原理揭秘

为了解决“既要 Transformer 强,又要 BSN 盲”的矛盾,TBSN 提出了两个核心魔改模块。我已将其封装为即插即用的 PyTorch 类:

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/19 3:45:55

拆解 TCP 协议:头部结构、序号机制与滑动窗口实战

一、 TCP 协议本质:数据的组织形式 所谓的“协议”,本质上就是通信双方约定好的一种数据组织格式。这就好比写信,信封上哪里写邮编、哪里写地址,必须按规定来,邮局才能识别。 在 C 语言中,TCP 头部其实就是一个结构体。虽然 PC 机内存默认采用小端存储(Little-Endian)…

作者头像 李华
网站建设 2026/6/18 5:22:17

大数据毕设项目推荐-基于机器学习的房子价值预测系统的设计与实现python房价预测系统的设计与实现【附源码+文档,调试定制服务】

java毕业设计-基于springboot的(源码LW部署文档全bao远程调试代码讲解等) 博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、…

作者头像 李华
网站建设 2026/6/18 6:06:47

大数据毕设项目:基于机器学习的房子价值预测系统的设计与实现(源码+文档,讲解、调试运行,定制等)

java毕业设计-基于springboot的(源码LW部署文档全bao远程调试代码讲解等) 博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、…

作者头像 李华
网站建设 2026/6/15 16:21:15

大数据毕设选题推荐:基于python的机器学习房价预测可视化系统基于机器学习的房子价值预测系统的设计与实现【附源码、mysql、文档、调试+代码讲解+全bao等】

java毕业设计-基于springboot的(源码LW部署文档全bao远程调试代码讲解等) 博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、…

作者头像 李华
网站建设 2026/6/11 23:38:36

阿里拿38K出来的大佬良心分享,熬夜整理10 万字详细Java面试笔记!

国内的互联网面试,恐怕是现存的、最接近科举考试的制度。这是由于互联网IT行业的求职者太多了,如果考察的是清一溜的算法题和设计题,那么会要求面试官有极高的技术水平,还要花大量的时间成本和精力。所以,八股文面试也…

作者头像 李华
网站建设 2026/6/15 17:22:05

SSM293的农家乐系统-住宿-美食-活动vue

目录SSM293农家乐系统概述住宿管理模块美食预订模块活动预约模块技术实现与优势开发技术源码文档获取/同行可拿货,招校园代理 :文章底部获取博主联系方式!SSM293农家乐系统概述 SSM293农家乐系统基于Vue.js前端框架开发,整合住宿管理、美食预…

作者头像 李华