• Python3.X下安装Scrapy


    Python3.X下安装Scrapy (转载)

    相信很多同学对于爬虫需要安装Scrapy时候,不想特地去安装2.X版本
    我也是这样一个懒人,我从网上找到这篇文章
    在Python3.x下安装和测试Scrapy爬网站
    根据上边的教程可以在我的电脑上正确安装Scrapy
    电脑环境:Win7 64位系统
    Python版本:3.6
    以下转自https://zhuanlan.zhihu.com/p/23103620?refer=gooseeker

    Scrapy所依赖的Twisted和Lxml在Windows/Python 3.x的平台还不能通过pip直接安装,所以直接使用pip也无法安装Scrapy。

    1、安装Twisted和Lxml
    通过下载对应的.whl文件来安装Twisted和Lxml,下载地址:http://www.lfd.uci.edu/~gohlke/pythonlibs/
    这里根据你自己的计算机系统和python版本选择合适的Twisted和Lxml,比如我的电脑,我选择的是
    lxml‑3.7.3‑cp36‑cp36m‑win32.whl和Twisted‑17.1.0‑cp36‑cp36m‑win32.whl

    打开命令提示符窗口,输入命令如下两条命令来完成Twisted和Lxml。
    pip install C:Twisted‑17.1.0‑cp36‑cp36m‑win32.whl
    pip install C:lxml‑3.7.3‑cp36‑cp36m‑win32.whl
    根据你自己的文件目录进行修改命令
    2、安装Scrapy
    在命令提示符中使用pip安装Scrapy
    pip install Scrapy即可完成Scrapy的安装
    3. Scrapy测试,敲一个基于Scrapy框架的爬虫程序
    打开命令提示符窗口,输入命令如下命令
    Scrapy startproject turtoria
    如果安装成功的话,此处不会有任何报错,并会在你输入命令所在目录创建出turtoria文件夹

    安装使用过程可能会碰到跟我报一个缺少win32api的问题,这个问题解决方案也很简单,从http://www.lfd.uci.edu/~gohlke/pythonlibs/下载对应的pywin32后,然后将Python安装目录Libsite-packagespywin32_system32目录下两个文件拷贝到C:WindowsSystem32目录就可以解决

    我自己对原文做了一定修改和精简方便各位初学者,如果有问题也可以在本帖回复,我能够作答一定会告诉你的

    原文地址:http://bbs.fishc.com/thread-84202-1-1.html

  • 相关阅读:
    POJ3040--Allowance(贪心)
    Deep work
    湾区公司上班第一周
    三个现场面试
    协商薪资
    调节情绪,精神愉悦,健康快乐
    Phone interview guide 多说
    Campus Bikes
    降低软件复杂度 和 写注释写总结 2019-10
    某厂在线测试 2019.09.26
  • 原文地址:https://www.cnblogs.com/pscc/p/9770715.html
Copyright © 2020-2023  润新知