创建项目
一、创建项目
1.conda创建环境
1)安装anaconda后,使用conda向指定工作目录下创建虚拟环境;
命令:conda create --prefix=w:work_prejectScrapy_projectvenv python=3.6
解释:在工作目录下,首先创建conda 虚拟环境;
2)安装Scrapy库
步骤:
1.激活虚拟环境 activate w:work_projectScrapy_projectvenv
2.安装Scrapy conda install Scrapy
2.Scrapy 创建项目
1)进入爬虫项目工作目录,如video_project,建立爬虫项目 目录结构;
步骤:
1.进入video_project 项目,建立爬虫项目结构
cd w:work_projectScrapy_project
scrapy startproject video_spider
3.Scrapy 创建爬虫主程序
1)进入爬虫项目 目录结构 建立爬虫主程序
步骤:
1.进入目录结构 spiders下,cd w:work_projectScrapy_projectvideo_spidervideo_spiderspiders
2.建立主程序,scrapy genspider youku youku.com
二、编辑项目
三、执行项目
1.使用命令
scrapy crawl 爬虫文件名(即scrapy genspider example example.com)# 即example
2.创建执行文件
1)在项目下新建start执行文件
2)输入代码