• 【Python爬虫案例学习】python爬取淘宝里的手机报价并以价格排序


    第一步:

    先分析这个url,”?“后面的都是它的关键字,requests中get函数的关键字的参数是params,post函数的关键字参数是data,

    关键字用字典的形式传进去,这样我们就可以自己改关键字去搜索别的东西或者是搜索别的页面,我对手机比较感兴趣所以

    就爬取了关于手机的页面。

    第二步:

    直接先给出源代码,然后细节再慢慢的说。

    # encoding:utf8
    import requests
    import re
    '''
    遇到不懂的问题?Python学习交流群:821460695满足你的需求,资料都已经上传群文件,可以自行下载!
    '''
    def printGoodsList(list):
        list = sorted(list,key=lambda x: x[1],reverse=True)
        m = '{:16}	{:8}'
        print(m.format("商品名称", "商品价格"))
        for i in list:
            print(m.format(i[0],i[1]))
    def main():
        phone = []
        data={
            'q':'手机',
            's':0
            }
        url = 'https://s.taobao.com/search'
        for i in range(0,48*10,48):
            data['s'] = i
            try:
                r = requests.get(url,params=data)
                r.encoding=r.apparent_encoding
                html = r.text
                reg = r'"title":"(.*?)".*?"price":"(.*?)"'
                phonelist = re.findall(reg, html)
            except:
                print("失败")
            for a in phonelist:
                if(int(a[1])>4000):
                    phone.append((a[0],int(a[1])))
        printGoodsList(phone)
    
    main()
    

    从main函数里看:

    先定义一个phone的列表存储关于手机的信息。

    然后定义一个data的字典,里面是url关键字的信息。

    用一个for循环爬取多页的信息。

    for循环里:

     r = requests.get(url,params=data)
     r.encoding=r.apparent_encoding
     html = r.text
    

    这些是获取页面信息。

    reg = r'"title":"(.*?)".*?"price":"(.*?)"'
    phonelist = re.findall(reg, html)
    

    用最简单的正则表达式 .*? 提取出我们想要的手机的名字跟手机的价格(正则表达式还没有深入去学习),有小伙伴想

    获取其他的信息也可以自己去试试匹配你想要提取的信息,然后把提取出来的信息存放到phonelist里。获取网页信息当中要用

    try except,捕捉出现的异常。

    for a in phonelist:
                if(int(a[1])>4000):
                    phone.append((a[0],int(a[1])))
    

    再用一个for循环把提取到的信息添加在phone列表里(以元组的形式存放进去,因为方便之后的排序),当然你也可以再筛选其中的信息,

    我就是筛选了价格高于四千的手机,看下土豪用的都是些什么手机。

    然后调用printGoodsList函数,接下来我们说说这个函数:

    def printGoodsList(list):
        list = sorted(list,key=lambda x: x[1],reverse=True)
        m = '{:16}	{:8}'
        print(m.format("商品名称", "商品价格"))
        for i in list:
            print(m.format(i[0],i[1]))
    

    函数里的一个行用到的是sorted函数,这个函数有几个参数,第一个是可迭代的对象,第二个是具有两个参数的比较的函数,第三个是进行

    比较的元素,只有一个参数,最后一个参数是排序规则,默认值是False,从小到大的排序。

    我用到的是lambda这个匿名函数,然后把排序后的信息赋值给list

    后面就是输出我们排好序的信息。

  • 相关阅读:
    [MySQL]You are using safe update mode and you tried to update a table without a WHERE that uses a KEY column
    mysql的索引
    Mysql中的Btree与Hash索引
    Tomcat集群的session共享
    Linux常用命令总结
    docker elk
    docker+mysql+zabix-server环境搭建
    centos7系统服务管理
    Linux vim常用命令
    linux系统日志查看
  • 原文地址:https://www.cnblogs.com/Pythonmiss/p/11298455.html
Copyright © 2020-2023  润新知