【AI论文与新生技术】EvTexture:事件驱动的视频超分辨率纹理增强

基于事件的视觉因其独特的特性(例如高时间分辨率和高动态范围)而引起了越来越多的关注。它最近已被用于视频超分辨率(VSR),以增强流量估计和时间对齐。我们在本文中提出了第一种利用事件信号进行纹理增强的 VSR 方法,而不是用于运动学习。

我们的方法称为 EvTexture,利用事件的高频细节来更好地恢复 VSR 中的纹理区域。在我们的 EvTexture 中,提出了一个新的纹理增强分支。我们进一步引入迭代纹理增强模块来逐步探索用于纹理恢复的高时间分辨率事件信息。这允许在多次迭代中逐渐细化纹理区域,从而获得更准确和更丰富的高分辨率细节。

实验结果表明,我们的 EvTexture 在四个数据集上实现了最先进的性能。对于纹理丰富的Vid4数据集,与最近的基于事件的方法相比,我们的方法可以获得高达4.67dB的增益。

(👇登录后查看官方项目链接和视频演示内容👇)

Motivation
动机

【AI论文与新生技术】EvTexture:事件驱动的视频超分辨率纹理增强

Vid4 中 City 剪辑上 VSR 方法的比较结果。可以看出,当前的VSR方法,无论有(EGVSR和EBVSR)还是没有(BasicVSR++)事件信号,仍然受到模糊纹理或抖动效应的影响,导致纹理区域出现较大误差。相比之下,我们的方法可以成功预测纹理区域,并大大减少恢复帧中的错误。

VSR Methods Comparisons
VSR 方法比较

【AI论文与新生技术】EvTexture:事件驱动的视频超分辨率纹理增强

(a) 基于 RGB 的方法通常侧重于运动倾斜,以从其他未对齐的帧中恢复丢失的细节。 (b) 先前的基于事件的方法尝试使用事件来增强运动学习。 (c) 相比之下,我们的方法是第一个利用事件来增强 VSR 中纹理恢复的方法。红色虚线是一个可选分支,我们的方法可以轻松适应使用事件来增强运动学习的方法。

Network Architecture
网络架构

【AI论文与新生技术】EvTexture:事件驱动的视频超分辨率纹理增强

(a) 继BasicVSR之后,我们的EvTexture采用双向循环网络,其中特征向前和向后传播。在每个时间戳,它包括一个运动分支和一个并行纹理分支,以显式增强纹理区域的恢复。 (b) 在纹理分支中,ITE模块起着关键作用。它利用来自事件的高频纹理信息以及来自当前帧的上下文信息,在多次迭代中逐步完善功能。

Quantitative Results
定量结果

【AI论文与新生技术】EvTexture:事件驱动的视频超分辨率纹理增强

Vid4、REDS4 和 Vimeo-90K-T 4× VSR 的定量比较 (PSNR↑/SSIM↑)。除 REDS4(RGB 通道)外,所有结果均在 Y 通道上计算。输入类型“I”和“I+E”分别表示基于RGB 和基于事件的方法。红色和蓝色分别表示最好和第二好的表现。

Qualitative Results
定性结果

【AI论文与新生技术】EvTexture:事件驱动的视频超分辨率纹理增强

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
今日签到
有新私信 私信列表
搜索