python手把手叫你分析CSDN个人博客数据
获取个人的全部博客标题及链接，发布时间、浏览量、以及收藏量等数据信息，按访问量排序，整理成一份Excel表存储。使用时，输入个人博客ID即可，从数据获取到解析存储，用到requests、BeautifulSoup、pandas等三方库，一个完整的Python爬虫实践。
目录
-
网页分析
-
博客列表分析
-
单篇博客分析
-
环境配置
-
代码实现
-
config 配置
-
run 代码
-
执行过程
-
代码下载
网页分析
博客列表分析
通过分析我的博客列表网页代码，提取出每篇文章的链接。
我的博客列表url为：https://blog.csdn.net/xiaoma_2018/article/list/1?t=1
注意每个人的博客ID会不同，因此本爬虫使用时要求输入个人的博客ID及页码数，以达到通用的功能。
单篇博客分析
通过分析单篇博客的网页源码，从其中获取文章链接、文章标题、发布时间、浏览量、以及收藏量等数据信息。
环境配置
本爬虫程序，运行环境说明 PyCharm 2020.1.1、Python 3.7.5
使用到的第三方依赖库如下：
执行：pip freeze > requirements.txt 导出
beautifulsoup4==4.9.1 pandas==1.1.1 requests==2.24.0
代码实现
代码主要思路是：
-
要求输入博客ID和页面数
-
爬取全部博客链接
-
爬取每一篇博客的数据信息
-
数据存储
config 配置
为了方便爬取不同的博客ID网页，单独写了入一个配置文件来定义爬虫用到的参数及文件路径参数，config.py 文件如下：
''' @Func 爬虫程序用到的请求头信息及文件路径信息 @File config.py ''' Host = "blog.csdn.net" # 请求头host参数 User_Agent = "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.102 Safari/537.36 Edge/18.18362" Source = 'html.txt' # 临时保存博客列表html源码 EachSource = 'each.txt' # 临时保存每篇博客html源码 OUTPUT = "博客信息.csv" # 输出博客信息到 csv 文件
其中，User_Agent必须根据自己的浏览器参数配置才能使用，其他参数可默认该配置。
run 代码
''' @Func Python爬虫CSDN博客文章数据，并写入excel表中 使用 re 模块正则匹配要获取的 url地址 ''' import requests from bs4 import BeautifulSoup import pandas as pd import os import re from config import Host, User_Agent, Source, EachSource,OUTPUT results = [] # 存储全部数据 def parseEachBlog(link): referer = "Referer: " + link headers = {"Referer": referer, "User-Agent": User_Agent} r = requests.post(link, headers=headers) html = r.text with open(EachSource, 'w', encoding='UTF-8') as f: f.write(html) soup = BeautifulSoup(open(EachSource, 'r', encoding='UTF-8'), features="html.parser") readcontent = soup.select('.bar-content .read-count') collection = soup.select('.bar-content .get-collection') readcounts = re.sub(r'D', "", str(readcontent[0])) collections = re.sub(r'D', "", str(collection[0])) blogname = soup.select('.title-article')[0].text time = soup.select('.bar-content .time')[0].text eachBlog = [blogname, link, readcounts, collections, time] return eachBlog def getBlogList(blogID, pages): listhome = "https://" + Host + "/" + blogID + "/article/list/" pagenums = [] # 转换后的pages页数 for i in range(1, int(pages)+1): pagenums.append(str(i)) for number in pagenums: url = listhome + number + "?t=1" headers = {"Referer": url, "Host": Host, "User-Agent": User_Agent} response = requests.post(url, headers=headers) html = response.text with open(Source, 'a', encoding='UTF-8') as f: f.write(html) # 获取全部博客的链接 soup = BeautifulSoup(open(Source, 'r', encoding='UTF-8'), features="html.parser") hrefs = [] re_patterm = "^https://blog.csdn.net/" + blogID + "/article/details/d+$" for a in soup.find_all('a', href=True): if a.get_text(strip=True): href = a['href'] if re.match(re_patterm, href): if hrefs.count(href) == 0: hrefs.append(href) return hrefs def parseData(): results.sort(key=lambda result:int(result[2]), reverse=True) # 按浏览量排序 dataframe = pd.DataFrame(data=results) dataframe.columns = ['文章标题', '文章链接', '浏览量', '收藏量', '发布时间'] dataframe.to_csv(OUTPUT, index=False, sep=',') def delTempFile(): if os.path.exists(Source): os.remove(Source) if os.path.exists(EachSource): os.remove(EachSource) if __name__ == '__main__': blogID = input("输入你要爬去的博客名: ") pages = input("输入博客列表页数: ") print("获取全部博客链接...") linklist = getBlogList(blogID, pages) print("开始获取数据...") for i in linklist: print("当前获取: %s"%(i)) results.append(parseEachBlog(i)) print("结束获取数据...") # 开始解析并存储 .csv 文件 print("开始解析并存储数据...") parseData() print("删除临时文件...") delTempFile()
执行过程
以我自己的博客ID为例，来展示一下执行的过程及结果，我的博客列表目前两页。
开始执行
结束执行
结果显示
代码下载
从想法到实现，再到输出这篇博文结束，还是挺好玩，在此总结分享。
完整的爬虫代码上传到了本人Gitee上
下载地址：https://gitee.com/lyc96/analysis-of-personal-blogs
欢迎关注公众号：Python爬虫数据分析挖掘
记录学习python的点点滴滴；
回复【开源源码】免费获取更多开源项目源码；
公众号每日更新python知识和【免费】工具；
本文已同步到【开源中国】和【腾讯云社区】；