• 【Python3爬虫】斗鱼弹幕爬虫


    在网上找到了一份斗鱼弹幕服务器第三方接入协议v1.6.2,有了第三方接口,做起来就容易多了。

    一、协议分析

    斗鱼后台协议头设计如下:

     

    这里的消息长度是我们发送的数据部分的长度和头部的长度之和,两个消息长度是一样。然后要注意的是该协议使用的是小端整数,所以我们要对数据进行处理后再发送,这里可以使用int.to_bytes()将整数转变成小端整数的形式。示例如下:

    int.to_bytes(12,4,'little')   # b'x0cx00x00x00'

    int.to_bytes(12,4,'big')     # b'x00x00x00x0c'

    然后消息类型是689(689表示客户端发送给服务器,690表示服务器发送给客户端),加密字段和保留字段都是默认为0。这里由于消息类型是两个字节的,加密字段和保留字段都是一个字节,但是因为加密字段和保留字段都是0,所以这四个字节可以使用int.to_bytes(689,4,'little')来表示。最后该协议使用的是utf-8编码,所以我们需要对整个数据进行编码后再发送。

    二、具体步骤

    1、连接服务器

    第三方客户端通过 TCP 协议连接到弹幕服务器(依据指定的 IP 和端口),其中IP 地址为openbarrage.douyutv.com,端口为8601,相关代码如下:

    client = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
    host = socket.gethostbyname("openbarrage.douyutv.com")
    port = 8601
    client.connect((host, port))

    2、发送登录请求

    客户端向弹幕服务器发送登录请求,登录弹幕服务器,格式如下:

    type@=loginreq/roomid@=房间号/

    3、发送加组请求

    客户端收到登录成功消息后发送进入弹幕分组请求给弹幕服务器,格式如下:

    type@=joingroup/rid@=房间号/gid@=-9999/

    gid表示分组号,第三方平台建议选择-9999即海量弹幕模式。

    4、接收广播消息

    接收服务器发送的广播消息,包括用户发的弹幕和送的礼物信息,然后解析得到具体的内容。但这些数据里只有礼物的id而没有具体的礼物名称,然后我通过抓包找到了两个链接,里面包含了礼物id和名称的对应关系,相关代码如下:

     1 gift_dict = {}
     2 headers = {
     3     "User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.75 Safari/537.36"
     4 }
     5 url1 = "https://webconf.douyucdn.cn/resource/common/gift/flash/gift_effect.json"
     6 res1 = requests.get(url1, headers=headers)
     7 js1 = json.loads(res1.text.lstrip('DYConfigCallback(').rstrip(');'))
     8 gift_data1 = js1['data']['flashConfig']
     9 for i in gift_data1.keys():
    10     gift_dict[gift_data1[i]['id']] = gift_data1[i]['name']
    11 
    12 url2 = "https://webconf.douyucdn.cn/resource/common/prop_gift_list/prop_gift_config.json"
    13 res2 = requests.get(url2, headers=headers)
    14 js2 = json.loads(res2.text.lstrip('DYConfigCallback(').rstrip(');'))
    15 gift_data2 = js2['data']
    16 for i in gift_data2.keys():
    17     gift_dict[int(i)] = gift_data2[i]['name']

    5、发送心跳消息

    客户端每隔45秒给服务器发送一次心跳消息,用于维护和服务器后台间的联系,格式如下:

    keep_msg = "type@=keeplive/tick@=十位时间戳"  # 旧版心跳消息
    keep_msg = "mrkl/" # 新版心跳消息

    6、核心代码

    在发送数据的时候,有可能会出现一次无法发送完的情况,所以就需要多发送几次,确保把数据都发送出去:

     1 msg = msg + ''  # 数据以''结尾
     2 msg = msg.encode('utf-8')  # 使用utf-8编码
     3 length = len(msg) + 8  # 消息长度
     4 code = 689  # 消息类型
     5 # 消息头部:消息长度+消息长度+消息类型+加密字段(默认为0)+保留字段(默认为0)
     6 head = int.to_bytes(length, 4, 'little') + int.to_bytes(length, 4, 'little') + int.to_bytes(code, 4, 'little')
     7 # 发送头部部分
     8 client.send(head)
     9 # 发送数据部分
    10 sent = 0
    11 while sent < len(msg):
    12     n = client.send(msg[sent:])  # 返回已发送的数据长度
    13     sent = sent + n

    三、运行结果

    运行截图:

    进入数据库查看结果:

    db.getCollection('DouYu-6039226').find({"data_type":"gift"})

    结果如下:

    还可以看看大家都发了什么弹幕:

    db.getCollection('DouYu-6039226').find({"data_type":"chat"},{"user_name":1,"chat_txt":1,"_id":0})

    结果如下:

    完整代码已上传到GitHub

  • 相关阅读:
    udacity android 实践笔记: lesson 4 part b
    iosiPhone屏幕尺寸、分辨率及适配
    【基础练习】【区间DP】codevs2102 石子归并2(环形)题解
    Spring Boot MyBatis 连接数据库
    知乎日报 API 分析
    Dijkstra算法
    win7远程桌面连接不上,解决办法
    ECharts图表中级入门之formatter:夜谈关于ECharts图表内的数据格式化方法
    myeclipse 连接svn服务器验证位置时发生错误 404 forbidden
    极路由系列 刷机方法
  • 原文地址:https://www.cnblogs.com/TM0831/p/10240078.html
Copyright © 2020-2023  润新知