image-restoration
提到此概念的论文 / 教程
PixRestore:扔掉 VAE 和 T2I 先验,从零训一个像素空间 DiT 做统一图像修复
港理工 VCLab 的统一图像修复(UIR)工作。核心主张:为 UIR 适配大 T2I 潜空间扩散模型是走了弯路——VAE 会丢掉修复最在意的细节,开放式生成先验会造出与输入不一致的伪影,十亿级骨干 + MLLM + MoE + VAE 编解码则纯属浪费算力。PixRestore 反其道而行:无 VAE、不用 T2I 预训练,直接在 patch 化的 RGB 像素上从零做 flow matching。为了适应不同退化,它用冻结的 DINOv2 多层特征作条件,并训一个「相似度引导的自适应层路由」——用 LQ–HQ 特征相似度当老师,可靠的层融合成 dense 条件(Eq 5),不可靠的层反而加大 HQ 特征监督(Eq 6)。最后把多步模型固定 t=1、配 DINO 特征判别器蒸成一步生成器。结果:约 50M 参数、单步推理、44ms,在 8 类退化上整体保真度/感知质量/退化去除都拿到最优或次优,算力只有 FoundIR-v2 的 1/181、Flux-IR 的 1/1209。
LA-SR: 一张照片里的「远处即 LR、近处即 HR」——把无配对超分搬进 CLIP 语言空间
真实世界超分的老大难是拿不到成对 HR-LR 数据, 合成退化 (bicubic / ISP) 又不像真的。LA-SR 的观察:同一张高清照片里, 远景因景深天然就是「真·LR」, 近景是 HR——用深度图就能从任意图里抠出真实退化的无配对 LR/HR 补丁。没有配对怎么监督? 把无配对超分重新定义在 CLIP 的语言空间里:用「内容文本」(BLIP 生成) 和「质量文本」({good}/{bad}) 作锚点, 两个对比损失——linguistic-content 保内容、linguistic-quality 拉画质, 训练 SR 网络产出「内容像输入、质量像 HR」的结果。在真实低质数据 (DRealSR/CameraFusion) 上感知指标 (CLIPIQA/MUSIQ/TOPIQ) 全面超过合成退化训练的 RealESRGAN 等。
GGT-100K:用多模态大模型「生成」真实世界修复的 Ground Truth
真实世界图像修复(IR)卡在「没有成对训练数据」:合成退化不像真的,真实成对数据又贵又难采。GGT-100K 的思路是——既然没有干净参考图,那就让生成式多模态大模型(MFM)「画」一张出来当 ground truth。 作者系统评测了 9 个 MFM × 4 种提示策略,发现 Nano-Banana-2 + Gemini 自适应提示在「保真 + 感知 + 无幻觉」上最均衡;再用它配合「指标过滤 → VLM 复检改写 → 人工验收」三级质控,构建出 103,707 对 LQ-HQ 训练对 + 500 对测试集。用它训各类 IR 模型都涨点,对生成式修复模型(FLUX/Qwen-Image-Edit)增益尤其大。