• Python使用struct处理二进制(pack和unpack用法)


    [转]Python使用struct处理二进制(pack和unpack用法)

    转载自:http://www.cnblogs.com/gala/archive/2011/09/22/2184801.html

    这篇文章写的很好,所以无耻的转了。。

    有的时候需要用python处理二进制数据,比如,存取文件,socket操作时.这时候,可以使用python的struct模块来完成.可以用 struct来处理c语言中的结构体.

    struct模块中最重要的三个函数是pack(), unpack(), calcsize()

    ?
    # 四号程序员 http://www.coder4.com
    1
    2
    3
    4
    5
    6
    7
    8
    #  按照给定的格式(fmt),把数据封装成字符串(实际上是类似于c结构体的字节流)
    pack(fmt, v1, v2, ...)
     
    # 按照给定的格式(fmt)解析字节流string,返回解析出来的tuple
    unpack(fmt, string)      
     
    # 计算给定的格式(fmt)占用多少字节的内存
    calcsize(fmt)

    上述fmt中,支持的格式为:

    FORMAT C TYPE PYTHON TYPE STANDARD SIZE NOTES
    x pad byte no value    
    c char string of length 1 1  
    b signed char integer 1 (3)
    B unsigned char integer 1 (3)
    ? _Bool bool 1 (1)
    h short integer 2 (3)
    H unsigned short integer 2 (3)
    i int integer 4 (3)
    I unsigned int integer 4 (3)
    l long integer 4 (3)
    L unsigned long integer 4 (3)
    q long long integer 8 (2), (3)
    Q unsigned long long integer 8 (2), (3)
    f float float 4 (4)
    d double float 8 (4)
    s char[] string    
    p char[] string    
    P void * integer   (5), (3)

    注1.q和Q只在机器支持64位操作时有意思

    注2.每个格式前可以有一个数字,表示个数

    注3.s格式表示一定长度的字符串,4s表示长度为4的字符串,但是p表示的是pascal字符串

    注4.P用来转换一个指针,其长度和机器字长相关

    注5.最后一个可以用来表示指针类型的,占4个字节

    为了同c中的结构体交换数据,还要考虑有的c或c++编译器使用了字节对齐,通常是以4个字节为单位的32位系统,故而struct根据本地机器字节顺序转换.可以用格式中的第一个字符来改变对齐方式.定义如下:

    CHARACTER BYTE ORDER SIZE ALIGNMENT
    @ native native native
    = native standard none
    < little-endian standard none
    > big-endian standard none
    ! network (= big-endian) standard none

    使用方法是放在fmt的第一个位置,就像’@5s6sif’

    例子1:

    结构体如下:

    ?
    # 四号程序员 http://www.coder4.com
    1
    2
    3
    4
    5
    6
    7
    structHeader
    {
        unsignedshortid;
        char[4] tag;
        unsignedintversion;
        unsignedintcount;
    }

    通过socket.recv接收到了一个上面的结构体数据,存在字符串s中,现在需要把它解析出来,可以使用unpack()函数:

    ?
    # 四号程序员 http://www.coder4.com
    1
    2
    importstruct
    id, tag, version, count =struct.unpack("!H4s2I", s)

    上面的格式字符串中,!表示我们要使用网络字节顺序解析,因为我们的数据是从网络中接收到的,在网络上传送的时候它是网络字节顺序的.后面的H表示 一个unsigned short的id,4s表示4字节长的字符串,2I表示有两个unsigned int类型的数据.

    就通过一个unpack,现在id, tag, version, count里已经保存好我们的信息了.

    同样,也可以很方便的把本地数据再pack成struct格式:

    ?
    # 四号程序员 http://www.coder4.com
    1
    ss=struct.pack("!H4s2I",id, tag, version, count);

    pack函数就把id, tag, version, count按照指定的格式转换成了结构体Header,ss现在是一个字符串(实际上是类似于c结构体的字节流),可以通过 socket.send(ss)把这个字符串发送出去。

    例子2:

    ?
    # 四号程序员 http://www.coder4.com
    1
    2
    3
    4
    5
    6
    importstruct
     
    a=12.34
     
    # 将a变为二进制
    bytes=struct.pack('i',a)

    此时bytes就是一个string字符串,字符串按字节同a的二进制存储内容相同。

    再进行反操作,现有二进制数据bytes,(其实就是字符串),将它反过来转换成python的数据类型:

    ?
    # 四号程序员 http://www.coder4.com
    1
    2
    # 注意,unpack返回的是tuple !!
    a,=struct.unpack('i',bytes)

    如果是由多个数据构成的,可以这样:

    ?
    # 四号程序员 http://www.coder4.com
    1
    2
    3
    4
    5
    6
    a='hello'
    b='world!'
    c=2
    d=45.123
     
    bytes=struct.pack('5s6sif',a,b,c,d)

    此时的bytes就是二进制形式的数据了,可以直接写入文件比如 binfile.write(bytes)

    然后,当我们需要时可以再读出来,bytes=binfile.read()

    再通过struct.unpack()解码成python变量:

    ?
    # 四号程序员 http://www.coder4.com
    1
    a,b,c,d=struct.unpack('5s6sif',bytes)

    ’5s6sif’这个叫做fmt,就是格式化字符串,由数字加字符构成,5s表示占5个字符的字符串,2i,表示2个整数等等,下面是可用的字符及类型,ctype表示可以与python中的类型一一对应。

    注意:二进制文件处理时会碰到的问题

    我们使用处理二进制文件时,需要用如下方法:

    ?
    # 四号程序员 http://www.coder4.com
    1
    2
    3
    binfile=open(filepath,'rb')    #读二进制文件
     
    binfile=open(filepath,'wb')   #写二进制文件

    那么和binfile=open(filepath,’r')的结果到底有何不同呢?

    不同之处有两个地方:

    第一,使用’r'的时候如果碰到’0x1A’,就会视为文件结束,这就是EOF。使用’rb’则不存在这个问题。即,如果你用二进制写入再用文本读出的话,如果其中存在’0X1A’,就只会读出文件的一部分。使用’rb’的时候会一直读到文件末尾。

    第二,对于字符串x=’abc def’,我们可用len(x)得到它的长度为7, 我们称之为换行符,实际上是’0X0A’。当我们用’w'即文本方式写的时候,在windows平台上会自动将’0X0A’变成两个字符’0X0D’,’0X0A’,即文件长度实际上变成8.。当用’r'文本方式读取时,又自动的转换成原来的换行符。如果换成’wb’二进制方式来写的话,则会保持一个字符不变,读取时也是原样读取。所以如果用文本方式写入,用二进制方式读取的话,就要考虑这多出的一个字节了。’0X0D’又称回车符。linux下不会变。因为linux只使用’0X0A’来表示换行。

  • 相关阅读:
    JAVA,模拟HTTP登录(略有修改) ----转载自http://zhoujingxian.iteye.com/blog/439738
    java的mysql初探
    java的IO流初探
    java自己写的简单聊天工具SimpleQQ感悟
    java多线程初探
    java事件监听机制2
    JAVA事件监听机制的实现
    iOS (两行代码实现)浮点数保留两位小数且末尾0不展示
    iOS 13.4 & Xcode 11.4 采坑小记(重写系统get)
    Masonry 使用小记(动态宽度依赖)
  • 原文地址:https://www.cnblogs.com/chenjianhong/p/4144324.html
Copyright © 2020-2023  润新知