简介：本资源是百度网盘AI大赛‘水印智能消除赛’亚军方案的完整开源实现，面向图像处理、计算机视觉方向的Python开发者与深度学习实践者，聚焦真实场景下复杂水印的鲁棒性去除问题。压缩包共21个文件，总计87.89MB，包含7个核心Python源码（涵盖数据预处理、多阶段训练、模型推理与指标评估）、5个PaddlePaddle模型参数文件（含不同训练步数的checkpoint）、3个CSV数据集划分文件、1个Jupyter Notebook主实验脚本、1个模型结构文件（.pdmodel）及配套配置与说明文件，完整复现了从数据加载、四阶段渐进式训练到单图预测的全流程。已有299人下载学习，方案采用PaddlePaddle框架构建，代码结构清晰、模块职责明确，附带详细训练日志与阶段性模型权重，便于复现实验、调试优化或迁移至其他水印消除任务。 这场比赛我从头到尾跟了将近三个月，最后在百度网盘AI大赛-水印智能消除赛的榜单上拿下了第2名。赛道本身看着简单——把图片里的水印去掉——但实际做起来，里面牵扯到数据分布判断、图像修复网络选型、损失函数平衡、训练稳定性控制，还有推理阶段的各种细节。排行榜前几名队伍的模型结构未必有本质差别，真正拉开差距的是对数据、指标和训练流程的理解。这篇就把我的整体方案设计、关键决策逻辑以及踩过的坑完整记录下来，给后面做图像修复、水印消除、文档增强相关工作的朋友一个参考。
1. 赛题定位：水印消除比的不只是"去得干净"
1.1 任务定义与官方数据构成
百度网盘AI大赛-水印智能消除赛是个典型的底层视觉任务：输入一张带水印的图像，输出一张去除水印后、尽可能保留原始细节的图像。水印覆盖的种类很杂，从角落的半透明logo到整幅平铺的文字底纹都有，而且图像来源覆盖文档扫描件、网页截图和各种自然场景照片。这个任务和外网的图像去水印工具不一样，赛方要求的是全自动、无需人工标注、能在真实场景里直接跑的方案，所以模型的泛化能力比单张效果好更重要。
官方数据集的构成值得先说清楚。训练集主体是文档类图像，包括白底打印稿、手写笔记、书籍扫描页和一部分表格截图，此外也混入了一些自然图像。分辨率跨度很大，小的五六百像素，大的超过两千像素，水印的透明度、颜色、字体、排列方向都有变化。这个分布直接影响了我的数据策略：不能只训练一个对"白色背景灰字水印"有效的模型，必须覆盖从简单到复杂的完整谱系。
1.2 评估指标背后的隐藏要求
赛方的评估脚本主要计算PSNR和SSIM，排行榜最终得分由两项加权而成。PSNR衡量的是逐像素误差，SSIM则侧重亮度、对比度和结构相似度。这两项指标有个共同特点：对像素级对齐很敏感，对纹理的"视觉合理感"不敏感。换句话说，模型输出结果哪怕看起来很有纹理细节，如果和原图在像素上对不齐，PSNR就上不去；反过来，一个稍微模糊但像素位置正确的结果，分数反而可能更高。
这个发现直接决定了我技术路线的走向。很多做图像修复的同行习惯用GAN那套感知优化，但纯GAN输出在PSNR上通常不占优。生成器为了骗过判别器，喜欢添加不存在的细节，结果就是分数不升反降。我的方案把优化重心放在重建精度上，以L1、SSIM和感知损失的组合为主，GAN只作为最后微调阶段的辅助约束，权重控制得很低。
提示：如果你参加的比赛评估指标是PSNR/SSIM这类像素级指标，请把精力优先投在重建类损失上，不要盲目追求GAN的美化效果。排行榜分数不会奖励"看起来合理但像素对不上"的结果。
1.3 我梳理出的水印难度金字塔
把训练数据过了几十遍之后，我按水印对模型造成的难度切成了四档，后续所有的数据合成、损失权重、训练策略都围绕这个金字塔展开。
| 难度 | 水印特征 | 典型场景 | 模型需要的能力 |
|---|---|---|---|
| 低 | 浅色半透明、背景纯净 | 白底文档上的浅灰底纹 | 简单的亮度补偿 |
| 中 | 深色文字、多行倾斜排布 | 网页截图右下角logo | 局部背景延展 |
| 高 | 颜色与背景接近、形状不规则 | 彩色海报上的半透明印章 | 上下文建模与纹理合成 |
| 极高 | 大面积平铺、覆盖关键内容 | 整幅水印底纹、扫描件叠加 | 全局修复与结构推理 |
这个金字塔直接决定训练数据配比。我最终用的比例是低难度20%、中难度40%、高难度30%、极高难度10%。如果均匀分配，模型会把大量容量浪费在已经学得很好的简单样本上，困难样本的分数很难拉起来；但如果困难样本占比过高，训练又会不稳定，损失迟迟不收敛。这个比例是我在多次实验之后找到的平衡点。
2. 训练数据建设：一半的分数藏在合成策略里
2.1 拿到官方案例后我做的第一件事
大多数参赛者拿到官方数据后第一件事就是跑通训练代码，我做的第一件事却是对训练集做了一遍系统的水印分布画像。我把每张图上水印的透明度范围、像素面积占比、主色调、位置分布、字体方向全部统计出来，用脚本聚类成几个典型模式，再把这个分布作为合成数据的参考标准。
这个操作看起来费时间，实际上是从根上解决问题。官方数据集里的水印类型虽然多，但某些困难类别（比如大面积彩色平铺水印）数量很少，模型很难靠这些有限样本学会泛化。通过分布画像，我能知道官方数据缺什么，然后针对性地在合成数据里补足。另外，画像还能帮我判断测试集和训练集的水印风格差异——如果测试集出现了训练集里没有的水印样式，全靠合成数据覆盖，这一步的价值甚至高于换一个更强的网络。
2.2 自研水印合成引擎的关键参数
合成数据是这次方案的核心资产之一。我写了一个Python水印合成模块，基于PIL和OpenCV，把文字水印、图片logo水印和平铺底纹按照随机参数叠加到干净图像上。几个关键参数我列一下：
- 透明度：alpha通道在10%到60%之间随机取值，覆盖"几乎看不见"到"明显干扰阅读"的范围
- 水印内容：随机从常用词库、数字串、网址片段里抽取，模拟真实场景的logo和版权声明
- 字体和字号：多套字体混用，字号从文档标题级别到正文级别随机
- 旋转角度：覆盖0度到45度，模拟倾斜水印
- 排布方式：单条、多行、棋盘式平铺、随机散布
- 混合模式：正常alpha混合之外，额外模拟了滤色、正片叠底、柔光等Photoshop式混合效果
合成时有个非常容易忽略的细节：水印边缘的羽化。真实水印在边缘处通常有半透明过渡带，也就是抗锯齿效果，如果合成时用硬边缘，模型学到的边界处理能力就很弱。测试时一旦遇到边缘带羽化的水印，输出结果就容易留下白边或黑边。我在合成时给水印文字先做高斯模糊再叠加，边缘过渡更接近真实数据。
2.3 困难样本挖掘与数据清洗
合成数据训练到一定阶段后，模型分数会进入平台期。这时候的瓶颈往往不是网络容量，而是困难样本没有被充分利用。我用的方法是每训练几个epoch，用当前模型对训练集做一次预测，把PSNR最低的两三百张样本挑出来，只在它们上面额外微调几个step。这种类似bootstrapping的难例挖掘，能显著提升模型对极端水印情况的鲁棒性，特别是大面积平铺水印和复杂背景水印。
数据清洗同样重要。官方数据集中有少量样本本身就存在严重噪点、运动模糊或者水印区域缺损，这类样本在原图上就无法提供明确的监督信号，硬训练反而会拉低整体指标。我的做法是把这类样本从主训练集中剔除，或者降低它们在损失计算中的权重。清洗的时候要小心，不能只按PSNR低就剔除，还要人工抽样检查，避免把真正有效的困难样本误删。
3. 主模型设计：从U-Net到门控卷积的关键改动
3.1 为什么我放弃"检测+抠除"路线
提到水印消除，很多人第一个想到的方案是两步走：先用目标检测或分割模型把水印位置找出来，再对找出的区域做局部修复。这个思路直观，但我实际实验后放弃了。核心原因是水印没有清晰的边界。半透明水印和背景是连续过渡的，人眼都很难画出一个像素级精确的mask，分割模型在这个任务上的上限本身就不高。再加上自监督风格的真实数据标注成本极高，很难获得高质量的mask监督。
更关键的是，两步走的误差是串行放大的。分割漏掉一点，修复就照顾不到；分割多框一点，修复又会把正常背景改坏。整个pipeline的鲁棒性被检测模块的短板锁死了。我最终选择的路线是端到端修复：输入带水印图像，网络直接输出无水印结果，模型在内部隐式建模水印位置、覆盖范围和背景重建。这条路线让整个系统简洁不少，也避免了中间误差累积。
3.2 网络架构与实验对比
端到端修复并不是随便套个U-Net就行。我在实验里对照了四种骨干结构的差异：
| 结构 | 效果 | 个人评价 |
|---|---|---|
| 普通U-Net | 水印区域偏模糊 | 结构简单，但浅层特征和深层语义融合不够 |
| Partial Convolution U-Net | 边界处理较好 | 依赖外部mask输入，且对不规则mask建模有损 |
| Gated Convolution U-Net | 效果明显提升 | 自动学习逐像素"有效程度"，适合任意形状水印 |
| Gated Convolution + 注意力 | 整体最优 | 全局上下文能力强，大面积水印恢复更稳 |
最终方案采用了Gated Convolution加注意力模块的组合。Gated Convolution和普通卷积的区别在于，它在卷积输出上额外乘了一个由输入生成的门控图。每个像素位置都会得到一个0到1之间的权重，模型可以自己学会"这个位置受水印影响有多深、该参考多少周围信息"。对水印消除来说，这个机制非常对路：水印像素权重低，正常背景像素权重高，网络在重建时自然会有侧重点。
注意力模块我加在了编码器底部，也就是特征图分辨率最低、语义信息最强的位置。自注意力让每个位置都能直接看到全图所有位置的响应，处理整幅平铺水印时特别重要——修复图像中心区域的水印，需要参考图像边缘干净区域的纹理信息，只有通过全局注意力才能高效完成。
3.3 损失函数组合：像素、感知与边缘约束
损失函数是整个方案里我调试最久的部分。只用一个L2损失，训练出的图像明显偏模糊，因为L2优化的是所有像素的平均误差，结果会把边缘细节"平均"掉。我最后使用的损失组合是：
- L1损失，作为主重建损失，对异常值比L2更鲁棒
- SSIM损失，约束输出和原图的结构相似度
- VGG感知损失，让修复结果的语义特征分布更接近原图
- 边缘感知的拉普拉斯损失，强化文字和物体边界的锐利度
这里有一个关键经验：感知损失的权重不能设太大。否则模型会为了在VGG特征空间上靠近原图，而改变像素的整体色彩分布，导致PSNR下降。我经过实验，最终把感知损失权重控制在L1的0.1倍左右，在感知质量和像素精度之间找到了平衡。另外，边缘损失在文档类图像上效果显著，因为文档里的文字和表格线是分数的主要贡献者，边缘保真度直接决定可读性。
4. 训练与调参：稳定收敛才是拿分基础
4.1 粗到细的两阶段训练流程
修复类网络直接在高分辨率上端到端训练，显存不够，收敛速度也慢。我的训练流程分为两个阶段：
阶段一，把训练图像下采样到256或384分辨率，用较大的batch size训练。这一步的目标是让模型充分学出水印的全局结构、背景重建的基本能力。图像小了，显存压力低，batch可以开到32甚至64，训练稳定性也更好。
阶段二，在512分辨率上微调，batch size降到4到8。高分辨率下的细节纹理、文字边缘锐利度都是在这个阶段学出来的。阶段二不能省，只用阶段一训练的话，分数会卡在一个瓶颈线上，尤其文档里的小字号文字区域，修复后的可读性很差。只有阶段二能把这些细节拉起来。
两阶段切换时有个容易踩的坑：如果直接换数据和损失，训练早期loss会剧烈抖动。我的做法是先在阶段二用较低学习率（正常值的一半以下）跑几十个iter，让模型对高分辨率输入有一个适应过程，再恢复完整学习率进入正式微调。
4.2 优化器、学习率与EMA
优化器我选了AdamW。相比Adam，AdamW在权重衰减的处理上更规范，实验下来收敛更稳，训练后期不容易出现loss突然升高的问题。学习率采用余弦退火调度，峰值2e-4，最低降到2e-6。峰值学习率设太大会导致早期震荡，收不到理想局部最优；设太小收敛又太慢。这个范围是我在多次试错后确定的。
EMA（指数滑动平均）是比赛里"白捡"分数的技巧。训练过程中，除了保存当前模型参数，我还维护一份参数的滑动平均值。推理时用EMA权重，而不是最新权重，因为EMA能平滑训练后期的参数抖动，测试集上的PSNR通常能提升0.1到0.2个点，而且完全不增加推理耗时。只要训练流程支持，这个技巧建议无条件加上。
4.3 显存和训练时间优化
比赛阶段的GPU资源不可能像工业项目那么充足，我的显存优化主要做了三件事。第一是梯度累积，小batch加多次反向传播累积梯度，模拟大batch的效果。第二是混合精度训练，把训练显存占用砍掉近一半，速度也能提20%左右。第三是梯度裁剪，每次更新前做一次梯度范数截断，防止偶发的loss尖峰把训练带崩。
时间成本上，阶段一大概跑2万步，在2080Ti级别的单卡上约15小时；阶段二跑8000步，约8小时。加上困难样本挖掘的多次迭代，整个比赛的模型训练总耗时大概一周。这个成本在可控范围内，关键是数据合成、模型训练、指标验证三者要并行安排，不要等训练跑完再开始下一轮数据处理。
5. 推理阶段的后处理：分数上限的最后拼图
5.1 水平翻转TTA与尺度扰动
TTA（Test-Time Augmentation）是比赛里最直接的提分手段。我在每个测试样本上同时跑原图和水平翻转后的图，把翻转的结果翻回来和原图预测做平均。水印消除任务没有垂直翻转的对称性，水平翻转已经足够，垂直翻转反而可能因为图像结构不对称引入误差。
尺度扰动同样有效。部分测试图像分辨率不规整，模型在512输入上训练，遇到1280或者256这种尺寸表现就不稳定。我以512像素短边为基准，配合多尺度推理，把多个尺度的预测结果统一缩放后平均。尺度扰动的收益在高分辨率测试图上更明显，代价是推理耗时成倍增加。比赛阶段优先保分数，TTA和多尺度融合都开了。
5.2 水印残影的针对性后处理
模型输出最常见的问题是水印区域还有残影，尤其是浅色底纹水印，处理完会出现一层淡淡的灰色印记。我之后处理做了一个针对性策略：先计算输出图和输入图的逐像素差分，找到差分值异常集中的区域，这些区域就是可能存在残影的位置。然后只对这些区域做一次局部的L1平滑，或者用一个小步长的修复推理把它们再修一遍。
这个方法比较直接，但实测能把PSNR再拉高0.2到0.3个点。需要注意的是，绝对不能对整张图做平滑，否则会把原本清晰的背景也弄糊，得不偿失。只处理差分异常区域，既保住了全图的清晰度，又能把残影压下去。判断区域时阈值要调好，阈值太松会误伤正常区域，阈值太紧又漏掉残影。
5.3 复现与推理速度的权衡
如果比赛有推理耗时限制，或者你需要把方案部署到实际产品里，速度和效果的取舍就要提前想清楚。我最后交付的方案有两套配置。完整版包含TTA和多尺度融合，单张GPU推理约0.8秒；加速版只保留单尺度推理，单张约0.2秒，分数只下降0.3个点左右。两套配置的差异在代码里就是一个参数开关，方便在线上评分和线下验证之间切换。
注意：复现性很关键。比赛提交时必须固定随机种子、固定推理时的TTA方式，否则同一套权重在不同环境下的输出可能有细微差异，影响最终成绩。
6. 复盘与建议：第二名方案对其他任务的迁移价值
6.1 我踩过的三个大坑
第一个坑是过分追求模型结构。比赛早期我不断尝试各种最新的修复网络，换结构换到飞起，分数却一直没明显提升。后来才意识到，在小规模特定数据上，结构差异带来的收益远不如数据合成和损失平衡来得直接。及时把精力从模型结构转移到数据和训练流程上，才是突破瓶颈的关键。
第二个坑是只看总分不看分项。有一段时间总分上不去，我以为是模型问题，后来把验证集按水印难度分层统计，才发现低难度样本分数已经很高，高难度样本几乎没怎么提升。针对性地调整困难样本在训练数据里的权重后，总分立刻有了变化。指标分层分析是比赛诊断里最有效的手段，没有之一。
第三个坑是忽略工程细节。批量下载官方数据集时因为网络问题浪费了一整天，后来写了断点续传脚本才解决。还有一次是训练日志没有记录EMA指标，导致对比实验时拿不到EMA权重对应的分数，等于白跑了一轮。这些工程问题看着小，在比赛这种时间敏感的场景里非常致命。
6.2 这套方案的泛化与复用
虽然这套方案是在水印消除比赛里打磨出来的，但它适用的任务远不止这个。类似"图像局部区域被覆盖，需要根据上下文重建"的问题，比如文档阴影去除、旧照片划痕修复、横幅遮挡下的文字恢复，甚至遥感图像云层遮挡下的地表重建，都可以用同一条技术路线解决。迁移时只需要换掉数据合成方式，模型结构和训练流程基本不用动。
这也解释了为什么我一再强调把重心放在数据工程和损失设计上，而不是频繁更换模型结构。稳定可复用的数据合成流程和训练框架，才是这类项目里真正的资产。方案沉淀下来之后，后面遇到任何类似的底层视觉任务，都能快速套用，这也是这次比赛带给我的最大收获。
最后再分享一个实际操作中的体会：比赛做久了你会发现自己对数据的敏感度会明显提高。拿到一批新数据，扫一眼就能大概判断出难度分布、需要什么样的预处理、该用什么训练策略。这种能力不是靠看论文看出来的，而是靠一次次实验、一层层指标分析积累出来的。对后面想参加类似比赛的朋友，我的建议很简单——先花时间把数据看透，再动手写模型，你会少走很多弯路。
本文还有配套的精品资源，点击获取
