• 粘包问题


    一、什么是粘包问题

    1587461346016

    发送端可以是一K一K地发送数据,而接收端的应用程序可以两K两K地提走数据,当然也有可能一次提走3K或6K数据,或者一次只提走几个字节的数据,也就是说,应用程序所看到的数据是一个整体,或说是一个流(stream),一条消息有多少字节对应用程序是不可见的,因此TCP协议是面向流的协议,这也是容易出现粘包问题的原因。而UDP是面向消息的协议,每个UDP段都是一条消息,应用程序必须以消息为单位提取数据,不能一次提取任意字节的数据,这一点和TCP是很不同的。怎样定义消息呢?可以认为对方一次性write/send的数据为一个消息,需要明白的是当对方send一条信息的时候,无论底层怎样分段分片,TCP协议层会把构成整条消息的数据段排序完成后才呈现在内核缓冲区。

    例如基于tcp的套接字客户端往服务端上传文件,发送时文件内容是按照一段一段的字节流发送的,在接收方看了,根本不知道该文件的字节流从何处开始,在何处结束

    所谓粘包问题主要还是因为接收方不知道消息之间的界限,不知道一次性提取多少字节的数据所造成的。

    此外,发送方引起的粘包是由TCP协议本身造成的,TCP为提高传输效率,发送方往往要收集到足够多的数据后才发送一个TCP段。若连续几次需要send的数据都很少,通常TCP会根据优化算法把这些数据合成一个TCP段后一次发送出去,这样接收方就收到了粘包数据。

    二、 为何发生粘包问题

    发送端需要等缓冲区满才发送出去,造成粘包(发送数据时间间隔很短,数据了很小,会合到一起,产生粘包)

    接收方不及时接收缓冲区的包,造成多个包接收(客户端发送了一段数据,服务端只收了一小部分,服务端下次再收的时候还是从缓冲区拿上次遗留的数据,产生粘包)

    三、如何解决粘包问题

    问题的根源在于——接收端不知道发送端将要传送的字节流的长度,所以解决粘包的方法就是围绕,如何让发送端在发送数据前,把自己将要发送的字节流总大小让接收端知晓,然后接收端来一个死循环接收完所有数据。

    PS:自定义报头

    3.1 struct模块——该模块可以把一个类型,如数字,转成固定长度的bytes

    我们可以把报头做成字典,字典里包含将要发送的真实数据的详细信息,然后json序列化,然后用struck将序列化后的数据长度打包成4个字节(4个已经足够用了)

    发送时:

    先发报头长度

    再编码报头内容然后发送

    最后发真实内容

    接收时:

    先手报头长度,用struct取出来

    根据取出的长度收取报头内容,然后解码,反序列化

    从反序列化的结果中取出待取数据的详细信息,然后去取真实的数据内容

    服务端:定制稍微复杂一点的报头

    import subprocess
    import struct
    import json
    from socket import *

    server=socket(AF_INET,SOCK_STREAM)
    server.setsockopt(SOL_SOCKET,SO_REUSEADDR,1) #就是它,在bind前加
    server.bind(('127.0.0.1',8083))
    server.listen(5)

    # 服务端应该做两件事
    # 第一件事:循环地从板连接池中取出链接请求与其建立双向链接,拿到链接对象
    while True:
        conn,client_addr=server.accept()

        # 第二件事:拿到链接对象,与其进行通信循环
       while True:
            try:
                cmd=conn.recv(1024)
                if len(cmd) == 0:break
                obj=subprocess.Popen(cmd.decode('utf-8'),
                                 shell=True,
                                 stdout=subprocess.PIPE,
                                 stderr=subprocess.PIPE
                                 )

                stdout_res=obj.stdout.read()
                stderr_res=obj.stderr.read()
                total_size=len(stdout_res)+len(stderr_res)

                # 1、制作头字典
               header_dic={
                    "filename":"a.txt",
                    "total_size":total_size,
                    "md5":"123123xi12ix12"
               }

                json_str = json.dumps(header_dic)
                json_str_bytes = json_str.encode('utf-8')


                # 2、先把头的长度发过去——客户端固定接收四个字节
               x=struct.pack('i',len(json_str_bytes))
                conn.send(x)

                # 3、发头信息
               conn.send(json_str_bytes)
                # 4、再发真实的数据
               conn.send(stdout_res)
                conn.send(stderr_res)

            except Exception:
                break
        conn.close()

    客户端

    import struct
    import json
    from socket import *

    client=socket(AF_INET,SOCK_STREAM)
    client.connect(('127.0.0.1',8083))

    while True:
        cmd=input('请输入命令>>:').strip()
        if len(cmd) == 0:continue
        client.send(cmd.encode('utf-8'))

        # 接收端
       # 1、先手4个字节,从中提取接下来要收的头的长度
       x=client.recv(4)
        header_len=struct.unpack('i',x)[0]

        # 2、接收头,并解析
       json_str_bytes=client.recv(header_len)
        json_str=json_str_bytes.decode('utf-8')
        header_dic=json.loads(json_str)
        print(header_dic)
        total_size=header_dic["total_size"]

        # 3、接收真实的数据
       recv_size = 0
        while recv_size < total_size:
            recv_data=client.recv(1024)
            recv_size+=len(recv_data)
            print(recv_data.decode('utf-8'),end='')
        else:
            print()

    总而言之:就是服务端先发头长度,再发头数据,再发真实数据,分三次发送

    客户端先接收头长度,再接收头数据(不然不知道头有多长),然后再接收真实数据。

    ps:udp协议不会出现粘包问题,会出现数据丢失问题。


  • 相关阅读:
    创业公司必备的5款团队协作工具
    测试人必备:国内外最好用的6款Bug跟踪管理系统
    BUG克星:几款优秀的BUG跟踪管理软件
    千亿级SaaS市场:企业级服务的必争之地
    如何使用iClap创建普通批注
    详析手游圈从业人员必须知道的行业术语
    企业级服务元年:iClap高效解决手游更新迭代问题
    手游精品时代,iClap参会TFC高效解决手游问题
    全新办公方式,iClap引领企业级服务新浪潮
    vue自学小demo----前端
  • 原文地址:https://www.cnblogs.com/bailongcaptain/p/12746254.html
Copyright © 2020-2023  润新知