有的时候需要用python处理二进制数据,比如,存取文件,socket操作时.这时候,可以使用python的struct模块来完成.可以用 struct来处理c语言中的结构体.
struct模块中最重要的三个函数是pack(), unpack(), calcsize()
pack(fmt, v1, v2, ...) 按照给定的格式(fmt),把数据封装成字符串(实际上是类似于c结构体的字节流)
unpack(fmt, string) 按照给定的格式(fmt)解析字节流string,返回解析出来的tuple
calcsize(fmt) 计算给定的格式(fmt)占用多少字节的内存
struct中支持的格式如下表:
Format | C Type | Python | 字节数 |
---|---|---|---|
x | pad byte | no value | 1 |
c | char | string of length 1 | 1 |
b | signed char | integer | 1 |
B | unsigned char | integer | 1 |
? | _Bool | bool | 1 |
h | short | integer | 2 |
H | unsigned short | integer | 2 |
i | int | integer | 4 |
I | unsigned int | integer or long | 4 |
l | long | integer | 4 |
L | unsigned long | long | 4 |
q | long long | long | 8 |
Q | unsigned long long | long | 8 |
f | float | float | 4 |
d | double | float | 8 |
s | char[] | string | 1 |
p | char[] | string | 1 |
P | void * | long |
注1.q和Q只在机器支持64位操作时有意思
注2.每个格式前可以有一个数字,表示个数
注3.s格式表示一定长度的字符串,4s表示长度为4的字符串,但是p表示的是pascal字符串
注4.P用来转换一个指针,其长度和机器字长相关
注5.最后一个可以用来表示指针类型的,占4个字节
为了同c中的结构体交换数据,还要考虑有的c或c++编译器使用了字节对齐,通常是以4个字节为单位的32位系统,故而struct根据本地机器字节顺序转换.可以用格式中的第一个字符来改变对齐方式.定义如下:
Character | Byte order | Size and alignment |
---|---|---|
@ | native | native 凑够4个字节 |
= | native | standard 按原字节数 |
< | little-endian | standard 按原字节数 |
> | big-endian | standard 按原字节数 |
! | network (= big-endian) |
standard 按原字节数 |
使用方法是放在fmt的第一个位置,就像'@5s6sif'
示例一:
比如有一个结构体
struct Header
{
unsigned short id;
char[4] tag;
unsigned int version;
unsigned int count;
}
通过socket.recv接收到了一个上面的结构体数据,存在字符串s中,现在需要把它解析出来,可以使用unpack()函数.
import struct
id, tag, version, count = struct.unpack("!H4s2I", s)
上面的格式字符串中,!表示我们要使用网络字节顺序解析,因为我们的数据是从网络中接收到的,在网络上传送的时候它是网络字节顺序的.后面的H表示 一个unsigned short的id,4s表示4字节长的字符串,2I表示有两个unsigned int类型的数据.
就通过一个unpack,现在id, tag, version, count里已经保存好我们的信息了.
同样,也可以很方便的把本地数据再pack成struct格式.
ss = struct.pack("!H4s2I", id, tag, version, count);
pack函数就把id, tag, version, count按照指定的格式转换成了结构体Header,ss现在是一个字符串(实际上是类似于c结构体的字节流),可以通过 socket.send(ss)把这个字符串发送出去.
示例二:
import struct
a=12.34
#将a变为二进制
bytes=struct.pack('i',a)
此时bytes就是一个string字符串,字符串按字节同a的二进制存储内容相同。
再进行反操作
现有二进制数据bytes,(其实就是字符串),将它反过来转换成python的数据类型:
a,=struct.unpack('i',bytes)
注意,unpack返回的是tuple
所以如果只有一个变量的话:
bytes=struct.pack('i',a)
那么,解码的时候需要这样
a,=struct.unpack('i',bytes) 或者 (a,)=struct.unpack('i',bytes)
如果直接用a=struct.unpack('i',bytes),那么 a=(12.34,) ,是一个tuple而不是原来的浮点数了。
如果是由多个数据构成的,可以这样:
a='hello'
b='world!'
c=2
d=45.123
bytes=struct.pack('5s6sif',a,b,c,d)
此时的bytes就是二进制形式的数据了,可以直接写入文件比如 binfile.write(bytes)
然后,当我们需要时可以再读出来,bytes=binfile.read()
再通过struct.unpack()解码成python变量
a,b,c,d=struct.unpack('5s6sif',bytes)
'5s6sif'这个叫做fmt,就是格式化字符串,由数字加字符构成,5s表示占5个字符的字符串,2i,表示2个整数等等,下面是可用的字符及类型,ctype表示可以与python中的类型一一对应。
注意:二进制文件处理时会碰到的问题
我们使用处理二进制文件时,需要用如下方法
binfile=open(filepath,'rb') 读二进制文件
binfile=open(filepath,'wb') 写二进制文件
那么和binfile=open(filepath,'r')的结果到底有何不同呢?
不同之处有两个地方:
第一,使用'r'的时候如果碰到'0x1A',就会视为文件结束,这就是EOF。使用'rb'则不存在这个问题。即,如果你用二进制写入再用文本读出的话,如果其中存在'0X1A',就只会读出文件的一部分。使用'rb'的时候会一直读到文件末尾。
第二,对于字符串x='abc\ndef',我们可用len(x)得到它的长度为7,\n我们称之为换行符,实际上是'0X0A'。当我们用'w'即文本方式写的时候,在windows平台上会自动将'0X0A'变成两个字符'0X0D','0X0A',即文件长度实际上变成8.。当用'r'文本方式读取时,又自动的转换成原来的换行符。如果换成'wb'二进制方式来写的话,则会保持一个字符不变,读取时也是原样读取。所以如果用文本方式写入,用二进制方式读取的话,就要考虑这多出的一个字节了。'0X0D'又称回车符。linux下不会变。因为linux只使用'0X0A'来表示换行。
以上内容转载来自:https://blog.csdn.net/zhongbeida_xue/article/details/79026333
********************************************************************************
我们都知道打开文件有两种方法:
- f = open()
- with open() as f:
这两种方法的区别就是第一种方法需要我们自己关闭文件;f.close(),而第二种方法不需要我们自己关闭文件,无论是否出现异常,with都会自动帮助我们关闭文件,这是为什么呢?
我们先自定义一个类,用with来打开它:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
class Foo(): def __enter__( self ): print ( "enter called" ) def __exit__( self , exc_type, exc_val, exc_tb): print ( "exit called" ) print ( "exc_type :%s" % exc_type) print ( "exc_val :%s" % exc_val) print ( "exc_tb :%s" % exc_tb) with Foo() as foo: print ( "hello python" ) a = 1 / 0 print ( "hello end" ) |
执行结果:
1
2
3
4
5
6
7
8
9
10
11
12
|
enter called Traceback (most recent call last): hello python exit called exc_type :< class 'ZeroDivisionError' > exc_val :division by zero File "F:/workspaces/python_workspaces/flask_study/with.py" , line 25 , in <module> a = 1 / 0 exc_tb :<traceback object at 0x0000023C4EDBB9C8 > ZeroDivisionError: division by zero Process finished with exit code 1 |
我们看到,执行结果的输入顺序,分析如下:
当我们with Foo() as foo:时,此时会执行__enter__方法,然后进入执行体,也就是:
1
2
3
|
print ( "hello python" ) a = 1 / 0 print ( "hello end" ) |
语句,但是在a=1/0出现了异常,with将会中止,此时就执行__exit__方法,就算不出现异常,当执行体被执行完毕之后,__exit__方法仍然被执行一次。
我们回到with open("file")as f: 不用关闭文件的原因就是在__exit__方法中,存在关闭文件的操作,所以不用我们手工关闭文件,with已将为我们做好了这个操作,这就可以理解了。
以上内容转载来自:https://www.jb51.net/article/179819.htm
***************************************************************************************************
读写二进制文件参考代码:
import struct import random def strwrite(str): accountstr=str lenforaccountstr = len(accountstr) accountstrtoasii = [] for i in range(lenforaccountstr): dx=random.randint(1,127)#生成1-127之间的随机数 accountstrtoasii.append(ord(accountstr[i])+dx)#ord为将字符转换为ascii码数 accountstrtoasii.append(dx) accountstrtoasii.append(255) with open('zzz.bin', 'ab') as fp:#a表示在文档末尾添加内容 如果是w则会清楚原来的内容,重新写 b表示以二进制形式打开 for x in accountstrtoasii: a = struct.pack('B', x)#将整数转换为二进制字符串 fp.write(a) def strread(): with open('zzz.bin', 'rb') as fp: text = fp.read() conent = struct.unpack("B" * len(text), text)#解包 flag=0 mycnt=0 strlist=[] note=[] accountid=[] password=[] for i in range(len(conent)): if conent[i]==255: mycnt=0 bufferstr = "" if flag==0: note.append(bufferstr.join(strlist))#将list的字符连接为字符串 elif flag==1: accountid.append(bufferstr.join(strlist)) elif flag==2: password.append(bufferstr.join(strlist)) strlist.clear() flag=flag+1 if flag==3: flag=0 else: mycnt = mycnt + 1 if mycnt%2==1: a = conent[i] b = conent[i + 1] strlist.append(chr(a-b))#chr表示将ascii码转换为对应字符 return note,accountid,password if __name__=='__main__': strwrite("woxihuan") strwrite("nibuxihuan") strwrite("123456789") mynote,myaccountid,mypassword=strread() print(mynote) print(myaccountid) print(mypassword)