在安装使用 detectron2 的时候碰到**Kernel not compiled with GPU support **问题，前后拖了好久都没解决，现总结一下以备以后查阅。
不想看心路历程的可以直接跳到最后一小节，哈哈哈。
environment
因为我使用的是实验室的服务器，所以很多东西没法改，我的 cuda 环境如下：
- ubuntu
nvcc默认版本是 9.2nvidia-smi版本又是 10.0 的
我之前一直没搞清楚这
nvcc和nvidia-smi版本为什么可以不一样，想了解原因的可以看一下我之前的文章显卡，显卡驱动,nvcc, cuda driver,cudatoolkit,cudnn 到底是什么？。
reproduce
我一般都用 Anaconda 来安装 pytorch，第一次安装的时候使用的如下命令安装的：
conda create -n myenv python=3.7
conda activate myenv
conda install pytorch torchvision cudatoolkit=10.1 -c pytorch
按理说这个命令会给myenv环境安装 cuda 编译器和驱动等，但是在运行代码的时候还是会出现标题中的报错信息。我猜可能是因为 detectron2 在 build 的时候使用的是/usr/local路径下的 cuda compiler（即 nvcc），而不是我的虚拟幻境下的 compiler。所以我重新安装了 cuda-9.2 版本的 pytorch，
conda install pytorch torchvision cudatoolkit=9.2 -c pytorch
但是运行的时候还是出现同样的错误，这更加说明 detectron2 的编译使用的不是虚拟环境路径下的编译器，所以我在想是不是我没有正确设置系统路径下的 CUDA，于是我用官方提供的检验代码查看 CUDA 路径：
python -c 'import torch; from torch.utils.cpp_extension import CUDA_HOME; print(torch.cuda.is_available(), CUDA_HOME)'
输出的结果是
true /usr/local
可以看到CUDA_HOME对应的输出结果有问题，照理来说输出结果应该是/usr/local/cuda或者/usr/local/cuda-9.2之类的，于是我又查看了~/.bashrc文件，找到与 CUDA 有关的代码部分,发现我并没有设置CUDA_HOME这个环境变量，于是我做了如下修改：
# vim ~/.bashrc
export CUDA_HOME=/usr/local/cuda
export PATH=$PATH:/usr/local/cuda/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/lib64:/usr/local/cuda/lib
export LIBRARY_PATH=$LIBRARY_PATH:/usr/local/cuda/lib64
之后 souce 一下
source ~/.bashrc
再运行python -c 'import torch; from torch.utils.cpp_extension import CUDA_HOME; print(torch.cuda.is_available(), CUDA_HOME)'输出的结果变为true /usr/local/cuda
此时Kernel not compiled with GPU support的问题就解决了，代码正常运行了。
总结
步骤总结
- 安装相关库
conda create -n myenv python=3.7
conda activate myenv
conda install pytorch torchvision cudatoolkit=9.2 -c pytorch
pip install opencv-python
pip install 'git+https://github.com/facebookresearch/fvcore'
pip install cython; pip install 'git+https://github.com/cocodataset/cocoapi.git#subdirectory=PythonAPI'
- 编译 detectron2
python setup.py build develop
可能出现的问题和解决办法
出现标题中的错误的原因主要是因为你的 cuda 版本或者路径除了问题，你可以按照如下几个步骤排查可能是那个地方出了问题：
- 运行
nvcc --version查看你的 cuda 编译器版本，那么你的 pytorch-gpu 也建议安装对应版本。当然如果你nvcc都没安装。。。那你就先找教程安装。 - 如果安装的 pytorch 版本和
nvcc版本一致，你可以看一下你的 CUDA 路径是否在~/.bashrc中设置正确，参考的配置路径如下：
# vim ~/.bashrc
export CUDA_HOME=/usr/local/cuda
export PATH=$PATH:/usr/local/cuda/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/lib64:/usr/local/cuda/lib
export LIBRARY_PATH=$LIBRARY_PATH:/usr/local/cuda/lib64
设置好后source ~/.bashrc,然后删除detectron2/build文件夹（如果你之前已经编译过一遍了），然后重新编译dete2tron2。
感谢xiedian一句话总结了上面的问题根本原因：
上述问题其实是因为 conda 安装的 cudatools 只是一个子集，里面是没有 nvcc 的，要用 nvcc 就必须用系统装的