• CVPR 之 老照片修复


        周末闲来无事,随手整理电脑里的照片,望着一张物是人非的老相片,勾起了斑驳的回忆。忽尔转念一想,何不 PS 下,但 Photoshop 有些大且不免费自己懒得装,于是,转向免费的图像复原软件。

        网上搜来找去,却一直没寻到合适的,最后查到 CVPR 2020 的一篇 Oral 论文,看到有的博客已经详细介绍过了,恰好作者也开放了源码,于是,一时兴起,拍脑门决定,就拿这个来复原老相片吧。

        结果,忙活了半个晚上 (主要是用手机热点,时间浪费在了下载速度上) 加一个上午 (踩了很多第三方库安装、python 向低版本重装的坑),终于成功复原图像,遂写下此博文,以免后来者重复踩坑 ... ...

     

    1  CVPR 会议

        CVPR 全称 IEEE Conference on Computer Vsion and Pattern Recongniton,是计算机视觉的三大顶会之一 (另两个是 ICCV 和 ECCV),由 IEEE 每年举办一次

        2021年,按照 Google Scholar Metrics 排名,CVPR 已经挤掉了《柳叶刀》,成为全球影响力排名第四的顶级期刊会议,排在前面的有 《Nature》和《Science》

         

     

     2  Oral 论文

        2020年的 CVPR 会议中,有效投稿 6656 篇论文,1470 篇被录用,接收率约 22%,其中 335 篇选中 Oral,比率约 5%

        这篇《Bringing Old Photos Back to Life》属于 Oral 论文,含金量可见一斑,论文链接:https://arxiv.org/pdf/2004.09484.pdf

        论文的内容不再赘述,请读者自行阅读,摘录论文实现的效果图,如下:

           

        源码作者已经开放,GitHub 链接:https://github.com/microsoft/Bringing-Old-Photos-Back-to-Life

     

    3  实践步骤

    3.1  测试环境

        Win 64 中使用 PoweShell 终端,已安装 Python 3.9.9,安装过程中勾选下图 pip 选项:

          

        可在 PowerShell 中输入 py --version,查看安装的 Python 版本 

    3.2  源码和模型

    3.2.1  源码    

        如有 git 可用 git clone 命令,如下

    git clone https://github.com/microsoft/Bringing-Old-Photos-Back-to-Life.git 

        也可直接下载链接中的 Source code:https://github.com/microsoft/Bringing-Old-Photos-Back-to-Life/releases

          

        如果下载速度较慢的话,可先点击下载,然后复制链接到迅雷下载,能显著提高下载速度

    3.2.2  模型

        1)  下载 face_landmark 预训练模型,解压后放在 Face_Detection 目录下

    cd Face_Detection/
    wget http://dlib.net/files/shape_predictor_68_face_landmarks.dat.bz2
    bzip2 -d shape_predictor_68_face_landmarks.dat.bz2
    cd ../
    

        2)  下载 face_checkpoints 模型,解压后置于 Face_Enhancement 目录下

    cd Face_Enhancement/
    wget https://github.com/microsoft/Bringing-Old-Photos-Back-to-Life/releases/download/v1.0/face_checkpoints.zip
    unzip face_checkpoints.zip
    cd ../  

        3)  下载 global_checkpoints 模型,解压后置于 Global 目录下

    cd Global/
    wget https://github.com/microsoft/Bringing-Old-Photos-Back-to-Life/releases/download/v1.0/global_checkpoints.zip
    unzip global_checkpoints.zip
    cd ../
    

        2) 和 3) 也可以通过 3.2.1 中的链接下载,解压后分别置于对应目录中

    3.2.3  sync_batchnorm

        下载 Synchronized-BatchNorm-PyTorch,将子文件夹 sync_batchnorm,拷贝到 Face_Enhancement/models/networks/ 目录下

    cd Face_Enhancement/models/networks/
    git clone https://github.com/vacancy/Synchronized-BatchNorm-PyTorch
    cp -rf Synchronized-BatchNorm-PyTorch/sync_batchnorm .
    cd ../../../
    

        相同的 sync_batchnorm 文件夹,再拷贝到 Global/detection_models/ 目录下

    cd Global/detection_models
    git clone https://github.com/vacancy/Synchronized-BatchNorm-PyTorch  # no need doing git clone once again
    cp -rf Synchronized-BatchNorm-PyTorch/sync_batchnorm .
    cd ../../ 

    3.3  依赖库

    3.3.1  第三方库

        可直接使用 pip 和 requirements.txt,一键下载全部依赖库

    pip install -r requirements.txt
    

     requirements.txt 中的所有依赖库如下:其中,torch, torchvision 和 dlib 稍稍复杂,可放在后面单独安装

    torch
    torchvision
    dlib
    scikit-image
    easydict
    PyYAML
    dominate>=2.3.1
    dill
    tensorboardX
    scipy
    opencv-python
    einops
    PySimpleGUI
    

    3.3.2  Torch 和 Torchvision  

        Torch, Torchvision 和 Python,三者版本是有一定的对应关系,需要单独安装,关系图参考:https://github.com/pytorch/vision

          

        第一种方法,用 pip install torch==1.8.1 和 pip install torchvision==0.9.2 进行安装,但在 PowerShell 中,有时会因网络不稳定导致安装不成功

        第二种方法,提前下载好对应的 .whl 版本,下载链接:https://download.pytorch.org/whl/torch_stable.html,然后,分别执行如下命令    

    pip install  torch-1.8.1+cpu-cp39-cp39-win_amd64.whl
    pip install  torchvision-0.9.1+cpu-cp39-cp39-win_amd64.whl
    

        安装成功后,可用如下命令查看版本    

    import torch
    print(torch.__version__)
    

        查看到的版本是 torch 1.8.1+cpu 和 torchvision 0.9.1+cpu

    3.3.3  dlib

        直接使用 pip install dib,安装并不成功,建议先下载 .whl 文件,再通过 pip 来安装,下载链接:https://github.com/sachadee/Dlib    

    pip install dlib-19.22.99-cp39-cp39-win_amd64.whl
    

    3.4  执行效果

        此处使用普通电脑测试,没有 GPU,所以 "--GPU" 设为 “-1”

        1)  对于带有划痕的照片,加选项 “--with_scratch” 

        2)  对于高分辨率的照片,加选项 "--HR"

    py run.py --input_folder ./test_images/old/ --output_folder ./output/ --GPU -1
    

        翻拍的老相片,复原前后对比如下:尤其放大相片后,人脸的对比效果非常明显

            

         

     4  其它方法

        阅读一篇好的论文,显然比在网上搜索更加有效,从文末的效果对比可知,主流的图像复原方法有:DIP, CyleGAN, Sequential, Pix2Pix 和 Operation-wise Attention 等,也算是一个额外的收获吧。

          

     

     

    参考资料

        Bringing Old Photos Back to Life

        照片修复-使用Bringing-Old-Photos-Back-to-Life

       

    原文链接: http://www.cnblogs.com/xinxue/

    专注于机器视觉、OpenCV、C++ 编程

  • 相关阅读:
    loj#2333 「JOI 2017 Final」准高速电车
    loj#2332 「JOI 2017 Final」焚风现象
    loj#501 「LibreOJ β Round」ZQC 的树列
    loj#500 「LibreOJ β Round」ZQC 的拼图
    p2827 蚯蚓
    p5471 [NOI2019]弹跳
    p5304 [GXOI/GZOI2019]旅行者
    p2503 [HAOI2006]均分数据
    p4899 [IOI2018] werewolf 狼人
    loj#137 最小瓶颈路 加强版
  • 原文地址:https://www.cnblogs.com/xinxue/p/15584137.html
Copyright © 2020-2023  润新知