• 【泡咖啡1】linux下caffe编译以及python环境配置手记


    caffe是一个深度学习的库,相信搞深度学习的话,不是用这个库就是用theano吧。要想使用caffe首先第一步就是要配置好caffe的环境。在这里,我主要说的是在debian的linux环境下如何配置好caffe的库。因为python编写程序比较方便,在文章最后,我还会具体说明如何配置python环境。本文章为本人原创,部分内容整理自网络,若有不妥之处请联系本人删除。非盈利性质网站转载请在文章开头处著名本文作者:77695,来源http://www.cnblogs.com/cj695/。盈利性质网站转载请与作者联系,联系方式在文章后面。如未联系,本人将通过一切可能且合法的途径追缴相应稿酬。请在转载时保留此声明。

    1、前期准备

    首先从github上下载好caffe库:https://github.com/BVLC/caffe,解压,得到这些东西

    image

    使用这一句话创建一个makefile.config的副本

    image

    接下来就是修改makefile.config,在这个文件里面对应的注释讲的很清楚,需要哪一项,吧对应那一项前面“#”去掉就好了

    image

    先拿make all测试,提示错误如下:

    image

    make: protoc:命令未找到
    make: *** [.build_release/src/caffe/proto/caffe.pb.h] 错误 127

    2、编译以及安装protoc

    那就下载protobuf吧,在github下载,解压https://github.com/google/protobuf

    image

    运行

    $ ./autogen.sh

    image

    原来先要安装curl:额,貌似curl安装不成功那就跳过吧。因为curl祈祷的作用就是下载文件,但https://googletest.googlecode.com/files/gtest-1.7.0.zip这个东西还是要下,那就直接下载吧,可能需要科学上网,这个方法那就八仙过海各显省通,我就不赘述。

    下载好以后把压缩包移动过去。

    image

    找到对应位置注释掉curl

    image

    再次运行,提示错误

    ./autogen.sh: 40: ./autogen.sh: autoreconf: not found

    原因是没安装 automake 工具

    运行命令安装:sudo apt-get install autoconf automake libtool

    再一次./autogen.sh,成功!然后依次运行以下命令

    $ ./configure
    $ make
    $ make check
    $ make install
    执行完make check以后出现:
    image

    就说明没什么问题了,就可以继续执行make install

    执行完以后切换到caffe目录,先make clean一下,接着make all

    还是提示找不到库,

    3、安装一系列依赖库

    再执行安装一些库:sudo apt-get install libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev libboost-all-dev libhdf5-serial-dev,稍等

    再执行make clean,接着make all,提示:

    ./include/caffe/common.hpp:5:27: fatal error: gflags/gflags.h: 没有那个文件或目录。说明protobuf的库已经差不多了。

    4、安装gflags

    这里继续安装gflags:https://github.com/schuhschuh/gflags/archive/master.zip 下载。解压

    cd gflags-master mkdir build && cd build export CXXFLAGS="-fPIC" && cmake .. && make VERBOSE=1 make sudo make install在执行第三句话的时候可能会提示版本较低,直接在这里

    http://www.cmake.org/install/

    下载最新版本的cmake就好了(下载.sh的文件直接运行就可以了)。要配置一下环境变量image

    然后接着执行下面两条命令,就好了。弄完之后继续切换到caffe目录,先make clean一下,接着make all

    ./include/caffe/util/mkl_alternate.hpp:11:19: fatal error: cblas.h: 没有那个文件或目录
    compilation terminated.

    说明gflag安装成功了,

    5、编译安装ATLAS

    接下来开始搞定cblas的问题。BLAS(Basic Linear Algebra Subprograms,基础线性代数程序集)是一个应用程序接口(API)标准。他的实现有很多,caffe用的是其中的三种实现ATLAS, MKL, or OpenBLAS.这里我准备使用ATLAS:http://sourceforge.net/projects/math-atlas/files/ 先下载,解压。按照官方文档写的,依次执行如下命令

    首先选择高性能cpu模式:

    /usr/bin/cpufreq-selector -g performance然后在ATLAS目录下建立文件夹 mkdir Linux_C2D64SSE3 # create BLDdir cd Linux_C2D64SSE3 # enter BLDdir

    ../configure -b 64 -D c -DPentiumCPS=2800 -Fa alg -fPIC --with-netlib-lapack-tarfile=/home/haiyu/Programs_Install/lapack-3.5.0.tgz --prefix=/usr/local/atlas
    粗体参数
    需要根据个人系统修改:
    -b 指定编译出库的类型(32位库还是64位库)
           -D c -DPentiumCPS 是指定你的CPU的时钟频率,可以通过 grep MHz /proc/cpuinfo 得到
           -Fa alg -fPIC 得到与位置无关的代码,生成动态的共享库
           --prefix 为安装路径
           --with-netlib-lapack-tarfile 则是lapack压缩包路径

    make build # tune & build lib make check # sanity check correct answer make ptcheck # sanity check parallel make time # check if lib is fast make install # copy libs to install dir

    这里还需要一个lapack的库,在这里下载http://www.netlib.org/lapack/,下载之后直接把/home/whaley/dload/lapack-3.4.1.tgz替换成对应的路径就好了

    在执行../configure的时候,会提示gfortran:命令未找到,直接用apt-get安装即可。然后make build之后就可以休息去了。等一个小时再过来看吧。

    ok。。现在是第二天。昨天晚上凌晨3点的时候终于看到它提示DONE了。这速度。太!“快”!了!继续执行接下来的命令几个可以忽略的就忽略了,然后再切换到CAFFE目录make clean/all,依旧提示

    image

    但这个时候在atla的prefix指定的安装路径下已经有include/cblas.h

    image

    执行这两条,添加目录到include环境变量

    6、安装lmdb

    接着make,提示错误lmdb没装

    git clone git://gitorious.org/mdb/mdb.git 

    cd mdb/libraries/liblmdb 

    make && make install 

    运行完,再回到caffe目录编译

    提示

    AR -o .build_release/lib/libcaffe.a
    LD -o .build_release/lib/libcaffe.so
    /usr/bin/ld: cannot find -lcblas
    /usr/bin/ld: cannot find -latlas
    collect2: error: ld returned 1 exit status

    7、安装其他依赖包

    解决办法:安装这些包

    apt-get install libatlas-dev
    apt-get install liblapack-dev
    apt-get install  libatlas-base-dev

    问题解决

    又提示这个错误.build_release/lib/libcaffe.so: undefined reference to `google::protobuf,重新编译protobuf

    make uninstall
    make clean

    ./configure --prefix=/usr
    make
    make check
    make install
    搞定,返回caffe,编译成功!!!!!!!!!!!!!此处有掌声!!!!!

    然后把目录添加到PYTHON环境变量就行了

    export PYTHONPATH=$PYTHONPATH:/home/cj695/protobuf/python/
    最后还要找到protobuf的Python目录

    python setup.py build
    python setup.py test
    python setup.py install
    安装一下
    激动人心的一颗来了!!!!!!!!!!!打开python,import caffe。。这一刻,我哭了!!!!!!!!!!!!!

    8、总结一下

    耗费两天时间,卡时间比较多的主要有两个地方,首先查错一定要从上往下查。基本上最上面的错误才是最根本的错误;其次,在安装过程中对配置做过的修改一定要记清楚,别自己把安装路径改了结果还不知道是怎么回事。

    另外,如果在安装gflags的时候出现问题,可以实验一下用apt-get安装gflag,命令如下:

    sudo apt-get install python-gflags

    caffe的配置大概也就这些内容,希望这篇文章能够对你有所帮助

  • 相关阅读:
    volatile关键字,使一个变量在多个线程间可见。
    grep sed awk
    mysql高级聚合
    Hive高级聚合GROUPING SETS,ROLLUP以及CUBE
    用SecureCRT来上传和下载文件
    mysql导出导入数据
    redis入门
    spark 常用技巧总结2
    生成数据库字典
    spark 常用技巧总结
  • 原文地址:https://www.cnblogs.com/cj695/p/4498270.html
Copyright © 2020-2023  润新知