实战项目 1：5 行代码爬取国内所有上市公司信息

 

 

实战项目 1：5 行代码爬取国内所有上市公司信息

Python入门爬虫与数据分析

---

在正式开始这门专栏课的学习之前，我们先来看一个简单的爬虫案例。兴趣是最好的老师，当你对爬虫产生兴趣的时候，才会更有动力去学它。

 

▌入门爬虫

首先来看要爬取的目标网站：http://s.askci.com/stock/1/

网页中有一张表格，内容是全国上市公司相关信息，整个表格有 180 页。我们需要做的工作就是，用几十秒钟把表格所有数据爬取下来，接着保存到本地文件。试想如果不会爬虫，要完成这份工作得费多大力气。

为什么要以这个网页作为第一个爬虫案例呢？有两点原因：

• 这类表格型数据在网页中非常常见，学会这个爬虫就能爬取一大类的网页数据，很实用。
• 这个爬虫很简单，5 行代码就可以实现。

好，下面我们就正式开始。

 

▌简版代码

我们可以先写一个简版代码，只写最核心的，就是抓数据，其他的诸如：下载速度、存储方式、代码条理性等先不管，这样代码写起来容易上手，能增强信心。

下面来看看如何用 5 行代码抓取上面表格中的所有数据。

 

1. import pandas as pd
   import csv
   for i in range(1,178): # 爬取全部页
   tb = pd.read_html('http://s.askci.com/stock/a/?reportTime=2017-12-31&pageNum=%s' % (str(i)))[3]
   tb.to_csv('company.csv', mode='a', encoding='utf_8_sig', header=1, index=0)

如果你不太明白上面代码意思，没有关系，后面的课程会介绍。现在只需要动手敲一遍，然后点击运行，几十秒钟之后在本地就可以看到一个名为 company.csv 的文件，打开结果见下表：

这样我们就爬取完了所有数据。怎么样，是不是觉得爬虫有点意思，没有想象中那么难。写几行代码，剩下的交给电脑就好了。

上面的爬虫有些单薄，还可以更完善一些，具体考虑这几个方面：

 

▌完善代码

• 增加代码灵活性

上面代码中的 URL 参数是固定的，比如reportTime=2017-12-31 表示爬取的是这一日期的数据，如果想爬取其他时期，需要在 URL 中去修改，不够灵活方便。怎么改变呢，也很简单，可以将日期赋予一个变量，在 URL 外部单独修改变量来爬取不同日期的数据。

• 增添存储方式

上面文件保存方式选择了 csv 文件，更为常见的方式是保存到数据库中，比如 MySQL、MongoDB 等，这里我们可以选择保存到 MySQL 中，当练习数据库的使用。

• 加快爬取速度

上面的代码是单进程爬取，爬取 180 页速度相对较慢，要想加快爬取速度可以使用多进程方式。

• 增加异常处理

上面代码没有任何异常处理措施，一旦爬取失败，我们找不到原因。最好是增加代码异常捕捉方式，可以使用 try except 、if 等语句，让代码更健壮。

考虑上述几方面，代码完善如下：

 

1. import requests
   import pandas as pd
   from bs4 import BeautifulSoup
   from lxml import etree
   import time
   import pymysql
   from sqlalchemy import create_engine
   from urllib.parse import urlencode # 编码 URL 字符串
   start_time = time.time() #计算程序运行时间
   def get_one_page(i,date):
   try:
   headers = {
   'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/66.0.3359.181 Safari/537.36'
   }
   paras = {
   'reportTime': date,
   #可以改报告日期，比如 2018-6-30 获得的就是该季度的信息
   'pageNum': i #页码
   }
   url = 'http://s.askci.com/stock/a/?' + urlencode(paras)
   response = requests.get(url,headers = headers)
   if response.status_code == 200:
   return response.text
   return None
   except RequestException:
   print('爬取失败')
   def parse_one_page(html):
   soup = BeautifulSoup(html,'lxml')
   content = soup.select('#myTable04')[0] #[0]将返回的 list 改为 bs4 类型
   tbl = pd.read_html(content.prettify(),header = 0)[0]
   # prettify()优化代码,[0]从 pd.read_html 返回的 list 中提取出 DataFrame
   tbl.rename(columns = {'序号':'serial_number', '股票代码':'stock_code', '股票简称':'stock_abbre', '公司名称':'company_name', '省份':'province', '城市':'city', '主营业务收入(201712)':'main_bussiness_income', '净利润(201712)':'net_profit', '员工人数':'employees', '上市日期':'listing_date', '招股书':'zhaogushu', '公司财报':'financial_report', '行业分类':'industry_classification', '产品类型':'industry_type', '主营业务':'main_business'},inplace = True)
   return tbl
   def generate_mysql():
   conn = pymysql.connect(
   host='localhost',
   user='root',
   password='******', #修改为你的密码
   port=3306,
   charset = 'utf8',
   db = 'wade') #修改为自己的数据库
   cursor = conn.cursor()
   sql = 'CREATE TABLE IF NOT EXISTS listed_company (serial_number INT(20) NOT NULL,stock_code INT(20) ,stock_abbre VARCHAR(20) ,company_name VARCHAR(20) ,province VARCHAR(20) ,city VARCHAR(20) ,main_bussiness_income VARCHAR(20) ,net_profit VARCHAR(20) ,employees INT(20) ,listing_date DATETIME(0) ,zhaogushu VARCHAR(20) ,financial_report VARCHAR(20) , industry_classification VARCHAR(20) ,industry_type VARCHAR(100) ,main_business VARCHAR(200) ,PRIMARY KEY (serial_number))'
   cursor.execute(sql)
   conn.close()
   def write_to_sql(tbl, db = 'wade'):
   engine = create_engine('mysql+pymysql://root:******@localhost:3306/{0}?charset=utf8'.format(db))
   try:
   tbl.to_sql('listed_company2',con = engine,if_exists='append',index=False)
   # append 表示在原有表基础上增加，但该表要有表头
   except Exception as e:
   print(e)
   def main(page):
   generate_mysql()
   date = '2017-12-31'
   for i in range(1,page):
   html = get_one_page(i,date)
   tbl = parse_one_page(html)
   write_to_sql(tbl)
   # # 单进程
   # if __name__ == '__main__':
   # main(178)
   # endtime = time.time()-start_time
   # print('程序运行了%.2f 秒' %endtime)
   # # 多进程
   from multiprocessing import Pool
   if __name__ == '__main__':
   pool = Pool(4)
   pool.map(main, [i for i in range(1,178)]) #共有 178 页
   endtime = time.time()-start_time
   print('程序运行了%.2f 秒' %(time.time()-start_time))

代码从原先的 5 行增加到几十行，针对每个点去完善，代码编写过程也很自然，如果一上来就写出这几十行代码，新手可能很快就会放弃。

数据爬取下来之后，可以说爬虫工作就完成了，不过，还可以进一步做一些数据分析，比如像下面这样：

以上，我们从一个简单的爬虫案例入手，初步了解了爬虫是怎么回事，能干什么事。代码具体编写知识，后续课程一一介绍。

文中完整代码和素材，可以在下方链接中得到：

https://github.com/makcyun/web_scraping_with_python/tree/master/10%E8%A1%8C%E4%BB%A3%E7%A0%81%E7%88%AC%E5%8F%96%E5%85%A8%E5%9B%BDA%E8%82%A1%E6%B8%AF%E8%82%A1%E6%96%B0%E4%B8%89%E6%9D%BF%E4%B8%8A%E5%B8%82%E5%85%AC%E5%8F%B8%E4%BF%A1%E6%81%AF

另外，如果想更充分地学习本专栏课程，可以参考《Python3 网络爬虫开发实战》这本书。

下一节课，我们再用一个实战来学习爬虫基本技法。

+