AI 修复民国北京街景视频,火遍全网带你穿越
该项目的作者,是一位 90 后的独立游戏开发者胡文谷,出生于北京,本科毕业于中国人民大学的艺术学、研究生毕业于纽约视觉艺术学院,目前在纽约从事独立游戏开发的工作。
胡文谷 (微博:@大谷Spitzer)作为艺术家,音乐家,程序员和游戏设计师,他从事游戏开发和音乐工作已超过10年。
代表作:《漫展模拟器》《Eddy紫》等,Eddy Violet 是他的 50 多个游戏作品之一,在中国获得了 10 万次下载。
作品集:http://dgspitzer.my-style.in/gameportfolio/
这段视频通过 AI 完成了上色、修复帧率、超分辨率的部分。
音效来自网络,背景曲目北京民乐大师的作品,其中道教音乐来自北京白龙观的录音影像。技术管线参考自 Denis Shiryae 的影像修复教程。
视频截图:作者提出的修复前后对比
作者在 帧率修复 部分使用的是由上海交大博士 Bao Wenbo 开源的 DAIN 插帧算法 (项目地址:https://github.com/baowenbo/DAIN)
DAIN 的架构示意图
给定两个时刻的输入帧,先估计光流和深度图,然后使用建议的深度感知流投影层生成中间流。
分辨率增强 部分使用了 ESRGAN ,一个基于 GAN 的增强超分辨率方法。
视频上色 部分使用了 DeOldify ,这是一个是用于着色和恢复旧图像及视频的深度学习项目。由一位加州的艺术家工程师在 Github 上进行开源 (项目地址:https://github.com/jantic/DeOldify)
DeOldify 采用了 NoGAN 这样一种新型的、高效的图像到图像的 GAN 训练方法。细节处理效果更好,渲染也更逼真。
还用 VirtualDub 软件对视频进行了老电影降噪部分的处理。
最后,这样一段时长十分钟的视频,就这样通过开源算法和软件的完美结合,呈现到了我们眼前,带领网友们穿越回民国,感受了一回北京的繁华街景。