一、常用模块
1、time模块
time时间模块
在Python中，通常有这几种方式来表示时间：
- 时间戳(timestamp)：通常来说，时间戳表示的是从1970年1月1日00:00:00开始按秒计算的偏移量。我们运行“type(time.time())”，返回的是float类型。
- 格式化的时间字符串(Format String)
- 结构化的时间(struct_time)：struct_time元组共有9个元素共九个元素:(年，月，日，时，分，秒，一年中第几周，一年中第几天，夏令时)
1 import time 2 #--------------------------我们先以当前时间为准,让大家快速认识三种形式的时间 3 print(time.time()) # 时间戳:1487130156.419527 4 print(time.strftime("%Y-%m-%d %X")) #格式化的时间字符串:'2017-02-15 11:40:53' 5 6 print(time.localtime()) #本地时区的struct_time 7 print(time.gmtime()) #UTC时区的struct_time 8 9 ########################################## 10 11 #时间戳 12 print(time.time()) 13 14 #结构化的时间 15 print(time.localtime()) 16 #本地时间，结构化格式，time.struct_time(tm_year=2017, tm_mon=6, tm_mday=6, tm_hour=15, tm_min=21, tm_sec=39, tm_wday=1, tm_yday=157, tm_isdst=0) 17 print(time.localtime().tm_year) 18 #本地时间，可以指定显示内容，tm_year表示年，输出 2017 19 print(time.gmtime()) 20 #time.struct_time(tm_year=2017, tm_mon=6, tm_mday=6, tm_hour=7, tm_min=21, tm_sec=39, tm_wday=1, tm_yday=157, tm_isdst=0) 21 #UTC时区时间，和localtime()方法类似，UTC时区时间比正常时间慢8小时 22 23 #格式化的字符串 24 print(time.strftime('%Y-%m-%d %H:%M:%S')) #2017-06-06 15:23:33 25 print(time.strftime('%Y-%m-%d %X')) #2017-06-06 15:23:33 ，%X 等同于 %H:%M:%S
其中计算机认识的时间只能是'时间戳'格式，而程序员可处理的或者说人类能看懂的时间有: '格式化的时间字符串'，'结构化的时间' ，于是有了下图的转换关系
1 #格式转换 2 print(time.localtime(13211123)) #将指定时间戳转换成结构化时间 3 4 print(time.localtime(time.time())) #将当前时间戳转换成结构化时间 5 6 print(time.gmtime(time.time())) #将当前时间戳转换成UTC时区结构化时间 7 8 print(time.mktime(time.localtime())) #当前结构化时间转换成时间戳 9 10 print(time.strftime('%Y %X',time.localtime())) #当前结构化时间年和时间转换成格式化字符串 11 12 print(time.strptime('2017-06-04 11:59:59','%Y-%m-%d %X')) #把指定格式化字符串时间转换成结构化时间
1 #--------------------------按图2转换时间 2 print(time.ctime(123123132)) #把指定时间戳转换成linux系统显示的时间格式，Mon Nov 26 08:52:12 1973 3 4 print(time.asctime(time.localtime())) #把当前时间戳转换成linux系统显示的时间格式，Tue Jun 6 15:31:08 2017 5 6 #--------------------------其他用法 7 sleep(secs) 8 # 线程推迟指定的时间运行，单位为秒。
2、random模块
random随机模块
1 import random 2 3 print(random.random()) # (0,1)----float 大于0且小于1之间的小数 4 5 print(random.randint(1, 3)) # [1,3] 大于等于1且小于等于3之间的整数 6 7 print(random.randrange(1, 3)) # [1,3) 大于等于1且小于3之间的整数 8 9 print(random.choice([1, '23', [4, 5]])) # 1或者23或者[4,5] 10 11 print(random.sample([1, '23', [4, 5]], 2)) # 列表元素任意2个组合 12 13 print(random.uniform(1, 3)) # 大于1小于3的小数，如1.927109612082716 14 15 item = [1, 3, 5, 7, 9] 16 random.shuffle(item) # 打乱item的顺序,相当于"洗牌" 17 print(item)
1 #------随机获取列表中的ip地址 2 import random 3 proxy_ip=[ 4 '1.1.1.1', 5 '1.1.1.2', 6 '1.1.1.3', 7 '1.1.1.4', 8 ] 9 10 print(random.choice(proxy_ip)) 11 12 #------生成随机验证码 13 import random 14 def v_code(n=5): 15 res='' 16 for i in range(n): 17 num=random.randint(0,9) 18 s=chr(random.randint(65,90)) 19 add=random.choice([num,s]) 20 res+=str(add) 21 return res 22 23 print(v_code(6))
3、os模块
os模块是与操作系统交互的一个接口
1 #---------os模块用法 2 import os 3 os.getcwd() #获取当前工作目录，即当前python脚本工作的目录路径 4 os.chdir("dirname") #改变当前脚本工作目录；相当于shell下cd 5 os.curdir #返回当前目录: ('.') 6 os.pardir #获取当前目录的父目录字符串名：('..') 7 os.makedirs('dirname1/dirname2') #可生成多层递归目录 8 os.removedirs('dirname1') #若目录为空，则删除，并递归到上一级目录，如若也为空，则删除，依此类推 9 os.mkdir('dirname') #生成单级目录；相当于shell中mkdir dirname 10 os.rmdir('dirname') #删除单级空目录，若目录不为空则无法删除，报错；相当于shell中rmdir dirname 11 os.listdir('dirname') #列出指定目录下的所有文件和子目录，包括隐藏文件，并以列表方式打印 12 os.remove() #删除一个文件 13 os.rename("oldname","newname") #重命名文件/目录 14 os.stat('path/filename') #获取文件/目录信息 15 os.sep #输出操作系统特定的路径分隔符，win下为"\",Linux下为"/" 16 os.linesep #输出当前平台使用的行终止符，win下为" ",Linux下为" " 17 os.pathsep #输出用于分割文件路径的字符串 win下为;,Linux下为: 18 os.name #输出字符串指示当前使用平台。win->'nt'; Linux->'posix' 19 os.system("bash command") #运行shell命令，直接显示 20 os.environ #获取系统环境变量 21 os.path.abspath(path) #返回path规范化的绝对路径 22 os.path.split(path) #将path分割成目录和文件名二元组返回 23 os.path.dirname(path) #返回path的目录。其实就是os.path.split(path)的第一个元素 24 os.path.basename(path) #返回path最后的文件名。如何path以／或结尾，那么就会返回空值。即os.path.split(path)的第二个元素 25 os.path.exists(path) #如果path存在，返回True；如果path不存在，返回False 26 os.path.isabs(path) #如果path是绝对路径，返回True 27 os.path.isfile(path) #如果path是一个存在的文件，返回True。否则返回False 28 os.path.isdir(path) #如果path是一个存在的目录，则返回True。否则返回False 29 os.path.join(path1[, path2[, ...]]) #将多个路径组合后返回，第一个绝对路径之前的参数将被忽略 30 os.path.getatime(path) #返回path所指向的文件或者目录的最后存取时间 31 os.path.getmtime(path) #返回path所指向的文件或者目录的最后修改时间 32 os.path.getsize(path) #返回path的大小
1 在Linux和Mac平台上，该函数会原样返回path，在windows平台上会将路径中所有字符转换为小写，并将所有斜杠转换为饭斜杠。 2 >>> os.path.normcase('c:/windows\system32\') 3 'c:\windows\system32\' 4 5 6 规范化路径，如..和/ 7 >>> os.path.normpath('c://windows\System32\../Temp/') 8 'c:\windows\Temp' 9 10 >>> a='/Users/jieli/test1/\a1/\\aa.py/../..' 11 >>> print(os.path.normpath(a)) 12 /Users/jieli/test1
1 os路径处理 2 #方式一：推荐使用 3 import os 4 #具体应用 5 import os,sys 6 possible_topdir = os.path.normpath(os.path.join( 7 os.path.abspath(__file__), 8 os.pardir, #上一级 9 os.pardir, 10 os.pardir 11 )) 12 sys.path.insert(0,possible_topdir) 13 14 15 #方式二：不推荐使用 16 os.path.dirname(os.path.dirname(os.path.dirname(os.path.abspath(__file__))))
4、sys模块
1 #---------sys模块用法 2 sys.argv #命令行参数List，第一个元素是程序本身路径 3 sys.exit(n) #退出程序，正常退出时exit(0) 4 sys.version #获取Python解释程序的版本信息 5 sys.maxint #最大的Int值 6 sys.path #返回模块的搜索路径，初始化时使用PYTHONPATH环境变量的值 7 sys.platform #返回操作系统平台名称
1 #---------进度条示例 2 3 import sys,time 4 5 for i in range(50): 6 sys.stdout.write('%s ' %('#'*i)) 7 sys.stdout.flush() 8 time.sleep(0.1) 9 10 ''' 11 注意：在pycharm中执行无效，请到命令行中以脚本的方式执行 12 '''
5、shutil模块
1、shutil模块，高级的 文件、文件夹、压缩包 处理模块
1 #---------shutil模块用法 2 3 # shutil.copyfileobj(fsrc, fdst[, length]) 将文件内容拷贝到另一个文件中 4 import shutil 5 shutil.copyfileobj(open('old.xml', 'r'), open('new.xml', 'w')) 6 7 # shutil.copyfile(src, dst) 拷贝文件 8 import shutil 9 shutil.copyfile('f1.log', 'f2.log') # 目标文件无需存在 10 11 # shutil.copymode(src, dst)仅拷贝权限。内容、组、用户均不变 12 import shutil 13 shutil.copymode('f1.log', 'f2.log') # 目标文件必须存在 14 15 # shutil.copystat(src, dst) 仅拷贝状态的信息，包括：mode bits, atime, mtime, flags 16 import shutil 17 shutil.copystat('f1.log', 'f2.log') # 目标文件必须存在 18 19 # shutil.copy(src, dst) 拷贝文件和权限 20 import shutil 21 shutil.copy('f1.log', 'f2.log') 22 23 # shutil.copy2(src, dst) 拷贝文件和状态信息 24 import shutil 25 shutil.copy2('f1.log', 'f2.log') 26 27 # shutil.ignore_patterns(*patterns) shutil.copytree(src, dst, symlinks=False, ignore=None) 递归的去拷贝文件夹 28 import shutil 29 shutil.copytree('folder1', 'folder2',ignore=shutil.ignore_patterns('*.pyc', 'tmp*')) # 目标目录不能存在，注意对folder2目录父级目录要有可写权限，ignore的意思是排除 30 31 32 # 拷贝软链接，通常的拷贝都把软连接拷贝成硬链接，即对待软连接来说，创建新的文件 33 import shutil 34 shutil.copytree('f1', 'f2', symlinks=True, ignore=shutil.ignore_patterns('*.pyc', 'tmp*')) 35 36 # shutil.rmtree(path[, ignore_errors[, onerror]]) 递归的去删除文件 37 import shutil 38 shutil.rmtree('folder1') 39 40 # shutil.move(src, dst) 递归的去移动文件，它类似mv命令，其实就是重命名。 41 import shutil 42 shutil.move('folder1', 'folder3')
2、shutil模块归档
shutil.make_archive(base_name, format,...)
创建压缩包并返回文件路径，例如：zip、tar
创建压缩包并返回文件路径，例如：zip、tar
- base_name： 压缩包的文件名，也可以是压缩包的路径。只是文件名时，则保存至当前目录，否则保存至指定路径，
如 data_bak =>保存至当前路径
如：/tmp/data_bak =>保存至/tmp/ - format： 压缩包种类，“zip”, “tar”, “bztar”，“gztar”
- root_dir： 要压缩的文件夹路径（默认当前目录）
- owner： 用户，默认当前用户
- group： 组，默认当前组
- logger： 用于记录日志，通常是logging.Logger对象
1 #将 /data 下的文件打包放置当前程序目录 2 import shutil 3 ret = shutil.make_archive("data_bak", 'gztar', root_dir='/data') 4 5 6 #将 /data下的文件打包放置 /tmp/目录 7 import shutil 8 ret = shutil.make_archive("/tmp/data_bak", 'gztar', root_dir='/data')
shutil 对压缩包的处理是调用 ZipFile 和 TarFile 两个模块来进行的，详细：
1 import zipfile 2 3 # 压缩 4 z = zipfile.ZipFile('laxi.zip', 'w') 5 z.write('a.log') 6 z.write('data.data') 7 z.close() 8 9 # 解压 10 z = zipfile.ZipFile('laxi.zip', 'r') 11 z.extractall(path='.') 12 z.close() 13 14 zipfile压缩解压缩
1 import tarfile 2 3 # 压缩 4 >>> t=tarfile.open('/tmp/egon.tar','w') 5 >>> t.add('/test1/a.py',arcname='a.bak') 6 >>> t.add('/test1/b.py',arcname='b.bak') 7 >>> t.close() 8 9 10 # 解压 11 >>> t=tarfile.open('/tmp/egon.tar','r') 12 >>> t.extractall('/egon') 13 >>> t.close() 14 15 tarfile压缩解压缩
6、json&pickle模块
eval内置方法可以将一个字符串转成python对象，不过，eval方法是有局限性的，对于普通的数据类型，json.loads和eval都能用，但遇到特殊类型的时候，eval就不管用了,所以eval的重点还是通常用来执行一个字符串表达式，并返回表达式的值。
1 imporjson 2 x="[null,true,false,1]" 3 print(eval(x)#报错，无法解析null类型，而json就可以 4 print(json.loads(x)
1.什么是序列化
我们把对象(变量)从内存中变成可存储或传输的过程称之为序列化，在Python中叫pickling，在其他语言中也被称之为serialization，marshalling，flattening等等，都是一个意思。
2.为什么要序列化?
1）持久保存状态
需知一个软件/程序的执行就在处理一系列状态的变化，在编程语言中，'状态'会以各种各样有结构的数据类型(也可简单的理解为变量)的形式被保存在内存中。
内存是无法永久保存数据的，当程序运行了一段时间，我们断电或者重启程序，内存中关于这个程序的之前一段时间的数据（有结构）都被清空了。
在断电或重启程序之前将程序当前内存中所有的数据都保存下来（保存到文件中），以便于下次程序执行能够从文件中载入之前的数据，然后继续执行，这就是序列化。
具体的来说，你玩使命召唤闯到了第13关，你保存游戏状态，关机走人，下次再玩，还能从上次的位置开始继续闯关。或如，虚拟机状态的挂起等
2)跨平台数据交互
序列化之后，不仅可以把序列化后的内容写入磁盘，还可以通过网络传输到别的机器上，如果收发的双方约定好实用一种序列化的格式，那么便打破了平台/语言差异化带来的限制，实现了跨平台数据交互。
反过来，把变量内容从序列化的对象重新读到内存里称之为反序列化，即unpickling。
3.如何序列化之json和pickle:
json:
如果我们要在不同的编程语言之间传递对象，就必须把对象序列化为标准格式，比如XML，但更好的方法是序列化为JSON，因为JSON表示出来就是一个字符串，可以被所有语言读取，也可以方便地存储到磁盘或者通过网络传输。JSON不仅是标准格式，并且比XML更快，而且可以直接在Web页面中读取，非常方便。
JSON表示的对象就是标准的JavaScript语言的对象，JSON和Python内置的数据类型对应如下：
1 import json 2 3 dic={'name':'alvin','age':23,'sex':'male'} 4 print(type(dic))#<class 'dict'> 5 6 j=json.dumps(dic) 7 print(type(j))#<class 'str'> 8 9 10 f=open('序列化对象','w') 11 f.write(j) #-------------------等价于json.dump(dic,f) 12 f.close() 13 #-----------------------------反序列化<br> 14 import json 15 f=open('序列化对象') 16 data=json.loads(f.read())# 等价于data=json.load(f)
1 #--------注意点 2 3 import json 4 #dct="{'1':111}"#json 不认单引号 5 #dct=str({"1":111})#报错,因为生成的数据还是单引号:{'one': 1} 6 7 dct='{"1":"111"}' 8 print(json.loads(dct)) 9 10 #conclusion: 11 # 无论数据是怎样创建的，只要满足json格式，就可以json.loads出来,不一定非要dumps的数据才能loads
pickle：
Pickle的问题和所有其他编程语言特有的序列化问题一样，就是它只能用于Python，并且可能不同版本的Python彼此都不兼容，因此，只能用Pickle保存那些不重要的数据，不能成功地反序列化也没关系。
1 import pickle 2 3 dic={'name':'alvin','age':23,'sex':'male'} 4 5 print(type(dic))#<class 'dict'> 6 7 j=pickle.dumps(dic) 8 print(type(j))#<class 'bytes'> 9 10 11 f=open('序列化对象_pickle','wb')#注意是w是写入str,wb是写入bytes,j是'bytes' 12 f.write(j) #-------------------等价于pickle.dump(dic,f) 13 14 f.close() 15 #-------------------------反序列化 16 import pickle 17 f=open('序列化对象_pickle','rb') 18 19 data=pickle.loads(f.read())# 等价于data=pickle.load(f) 20 21 22 print(data['age'])
7、shelve模块
shelve模块比pickle模块简单，只有一个open函数，返回类似字典的对象，可读可写;key必须为字符串，而值可以是python所支持的数据类型
1 import shelve 2 3 f=shelve.open(r'sheve.txt') 4 # f['stu1_info']={'name':'egon','age':18,'hobby':['piao','smoking','drinking']} 5 # f['stu2_info']={'name':'gangdan','age':53} 6 # f['school_info']={'website':'http://www.pypy.org','city':'beijing'} 7 8 print(f['stu1_info']['hobby']) 9 f.close()
8、xml格式文件操作
xml是实现不同语言或程序之间进行数据交换的协议，跟json差不多，但json使用起来更简单，不过，古时候，在json还没诞生的黑暗年代，大家只能选择用xml呀，至今很多传统公司如金融行业的很多系统的接口还主要是xml。
xml的格式如下，就是通过<>节点来区别数据结构的:
1 <?xml version="1.0"?> 2 <data> 3 <country name="Liechtenstein"> 4 <rank updated="yes">2</rank> 5 <year>2008</year> 6 <gdppc>141100</gdppc> 7 <neighbor name="Austria" direction="E"/> 8 <neighbor name="Switzerland" direction="W"/> 9 </country> 10 <country name="Singapore"> 11 <rank updated="yes">5</rank> 12 <year>2011</year> 13 <gdppc>59900</gdppc> 14 <neighbor name="Malaysia" direction="N"/> 15 </country> 16 <country name="Panama"> 17 <rank updated="yes">69</rank> 18 <year>2011</year> 19 <gdppc>13600</gdppc> 20 <neighbor name="Costa Rica" direction="W"/> 21 <neighbor name="Colombia" direction="E"/> 22 </country> 23 </data> 24 25 xml数据
xml协议在各个语言里的都 是支持的，在python中可以用以下模块操作xml：
1 print(root.iter('year')) #全文搜索 2 print(root.find('country')) #在root的子节点找，只找一个 3 print(root.findall('country')) #在root的子节点找，找所有
使用：
1 import xml.etree.ElementTree as ET 2 3 tree = ET.parse("xmltest.xml") 4 root = tree.getroot() 5 print(root.tag) 6 7 #遍历xml文档 8 for child in root: 9 print('========>',child.tag,child.attrib,child.attrib['name']) 10 for i in child: 11 print(i.tag,i.attrib,i.text) 12 13 #只遍历year 节点 14 for node in root.iter('year'): 15 print(node.tag,node.text) 16 #--------------------------------------- 17 18 import xml.etree.ElementTree as ET 19 20 tree = ET.parse("xmltest.xml") 21 root = tree.getroot() 22 23 #修改 24 for node in root.iter('year'): 25 new_year=int(node.text)+1 26 node.text=str(new_year) 27 node.set('updated','yes') 28 node.set('version','1.0') 29 tree.write('test.xml') 30 31 32 #删除node 33 for country in root.findall('country'): 34 rank = int(country.find('rank').text) 35 if rank > 50: 36 root.remove(country) 37 38 tree.write('output.xml')
1 #在country内添加（append）节点year2 2 import xml.etree.ElementTree as ET 3 tree = ET.parse("a.xml") 4 root=tree.getroot() 5 for country in root.findall('country'): 6 for year in country.findall('year'): 7 if int(year.text) > 2000: 8 year2=ET.Element('year2') 9 year2.text='新年' 10 year2.attrib={'update':'yes'} 11 country.append(year2) #往country节点下添加子节点 12 13 tree.write('a.xml.swap')
自己创建xml文档：
1 import xml.etree.ElementTree as ET 2 3 4 new_xml = ET.Element("namelist") 5 name = ET.SubElement(new_xml,"name",attrib={"enrolled":"yes"}) 6 age = ET.SubElement(name,"age",attrib={"checked":"no"}) 7 sex = ET.SubElement(name,"sex") 8 sex.text = '33' 9 name2 = ET.SubElement(new_xml,"name",attrib={"enrolled":"no"}) 10 age = ET.SubElement(name2,"age") 11 age.text = '19' 12 13 et = ET.ElementTree(new_xml) #生成文档对象 14 et.write("test.xml", encoding="utf-8",xml_declaration=True) 15 16 ET.dump(new_xml) #打印生成的格式
9、hashlib模块
hash：一种算法 ,3.x里代替了md5模块和sha模块，主要提供 SHA1, SHA224, SHA256, SHA384, SHA512 ，MD5 算法
三个特点：
1.内容相同则hash运算结果相同，内容稍微改变则hash值则变
2.不可逆推
3.相同算法：无论校验多长的数据，得到的哈希值长度固定。
1 import hashlib 2 3 m=hashlib.md5()# m=hashlib.sha256() 4 5 m.update('hello'.encode('utf8')) 6 print(m.hexdigest()) #5d41402abc4b2a76b9719d911017c592 7 8 m.update('alvin'.encode('utf8')) 9 10 print(m.hexdigest()) #92a7e713c30abbb0319fa07da2a5c4af 11 12 m2=hashlib.md5() 13 m2.update('helloalvin'.encode('utf8')) 14 print(m2.hexdigest()) #92a7e713c30abbb0319fa07da2a5c4af 15 16 ''' 17 注意：把一段很长的数据update多次，与一次update这段长数据，得到的结果一样 18 但是update多次为校验大文件提供了可能。 19 '''
以上加密算法虽然依然非常厉害，但时候存在缺陷，即：通过撞库可以反解。所以，有必要对加密算法中添加自定义key再来做加密。
import hashlib # ######## 256 ######## hash = hashlib.sha256('898oaFs09f'.encode('utf8')) hash.update('alvin'.encode('utf8')) print (hash.hexdigest())#e79e68f070cdedcfe63eaf1a2e92c83b4cfb1b5c6bc452d214c1b7e77cdfd1c7
1 import hashlib 2 passwds=[ 3 'alex3714', 4 'alex1313', 5 'alex94139413', 6 'alex123456', 7 '123456alex', 8 'a123lex', 9 ] 10 def make_passwd_dic(passwds): 11 dic={} 12 for passwd in passwds: 13 m=hashlib.md5() 14 m.update(passwd.encode('utf-8')) 15 dic[passwd]=m.hexdigest() 16 return dic 17 18 def break_code(cryptograph,passwd_dic): 19 for k,v in passwd_dic.items(): 20 if v == cryptograph: 21 print('密码是===> 33[46m%s 33[0m' %k) 22 23 cryptograph='aee949757a2e698417463d47acac93df' 24 break_code(cryptograph,make_passwd_dic(passwds))
python 还有一个 hmac 模块，它内部对我们创建 key 和 内容 进行进一步的处理然后再加密:
imporhmac hmac.new('alvin'.encode('utf8')) h.update('hello'.encode('utf8')) prin(h.hexdigest())#320df9832eab4c038b6c1d7ed73a5940
10、subprocess模块
1 import subprocess 2 3 ''' 4 sh-3.2# ls /Users/egon/Desktop |grep txt$ 5 mysql.txt 6 tt.txt 7 事物.txt 8 ''' 9 10 res1=subprocess.Popen('ls /Users/jieli/Desktop',shell=True,stdout=subprocess.PIPE) 11 res=subprocess.Popen('grep txt$',shell=True,stdin=res1.stdout, 12 stdout=subprocess.PIPE) 13 14 print(res.stdout.read().decode('utf-8')) 15 16 17 #等同于上面,但是上面的优势在于,一个数据流可以和另外一个数据流交互,可以通过爬虫得到结果然后交给grep 18 res1=subprocess.Popen('ls /Users/jieli/Desktop |grep txt$',shell=True,stdout=subprocess.PIPE) 19 print(res1.stdout.read().decode('utf-8')) 20 21 22 #windows下: 23 # dir | findstr 'test*' 24 # dir | findstr 'txt$' 25 import subprocess 26 res1=subprocess.Popen(r'dir C:UsersAdministratorPycharmProjects est函数备课',shell=True,stdout=subprocess.PIPE) 27 res=subprocess.Popen('findstr test*',shell=True,stdin=res1.stdout, 28 stdout=subprocess.PIPE) 29 30 print(res.stdout.read().decode('gbk')) #subprocess使用当前系统默认编码，得到结果为bytes类型，在windows下需要用gbk解码
11、logging模块
用于便捷记录日志且线程安全的模块
1 import logging 2 ''' 3 一:如果不指定filename,则默认打印到终端 4 二:指定日志级别: 5 指定方式: 6 1:level=10 7 2:level=logging.ERROR 8 9 日志级别种类: 10 CRITICAL = 50 11 FATAL = CRITICAL 12 ERROR = 40 13 WARNING = 30 14 WARN = WARNING 15 INFO = 20 16 DEBUG = 10 17 NOTSET = 0 18 19 三:指定日志级别为ERROR,则只有ERROR及其以上级别的日志会被打印 20 ''' 21 22 23 logging.basicConfig(filename='access.log', 24 format='%(asctime)s - %(name)s - %(levelname)s -%(module)s: %(message)s', 25 datefmt='%Y-%m-%d %H:%M:%S %p', 26 level=10) 27 28 logging.debug('debug') 29 logging.info('info') 30 logging.warning('warning') 31 logging.error('error') 32 logging.critical('critical') 33 logging.log(10,'log') #如果level=40,则只有logging.critical和loggin.error的日志会被打印
可在logging.basicConfig()函数中通过具体参数来更改logging模块默认行为，可用参数有
filename：用指定的文件名创建FiledHandler（后边会具体讲解handler的概念），这样日志会被存储在指定的文件中。
filemode：文件打开方式，在指定了filename时使用这个参数，默认值为“a”还可指定为“w”。
format：指定handler使用的日志显示格式。
datefmt：指定日期时间格式。
level：设置rootlogger（后边会讲解具体概念）的日志级别
stream：用指定的stream创建StreamHandler。可以指定输出到sys.stderr,sys.stdout或者文件，默认为sys.stderr。若同时列出了filename和stream两个参数，则stream参数会被忽略。
日志格式
|
%(name)s |
|
|
%(levelno)s |
数字形式的日志级别 |
|
%(levelname)s |
文本形式的日志级别 |
|
%(pathname)s |
调用日志输出函数的模块的完整路径名，可能没有 |
|
%(filename)s |
调用日志输出函数的模块的文件名 |
|
%(module)s |
调用日志输出函数的模块名 |
|
%(funcName)s |
调用日志输出函数的函数名 |
|
%(lineno)d |
调用日志输出函数的语句所在的代码行 |
|
%(created)f |
当前时间，用UNIX标准的表示时间的浮 点数表示 |
|
%(relativeCreated)d |
输出日志信息时的，自Logger创建以 来的毫秒数 |
|
%(asctime)s |
字符串形式的当前时间。默认格式是 “2003-07-08 16:49:45,896”。逗号后面的是毫秒 |
|
%(thread)d |
线程ID。可能没有 |
|
%(threadName)s |
线程名。可能没有 |
|
%(process)d |
进程ID。可能没有 |
|
%(message)s |
用户输出的消息 |
12、configparser模块
配置文件如下：
1 # 注释1 2 ; 注释2 3 4 [section1] 5 k1 = v1 6 k2:v2 7 user=egon 8 age=18 9 is_admin=true 10 salary=31 11 12 [section2] 13 k1 = v1
读取
1 import configparser 2 3 config=configparser.ConfigParser() 4 config.read('a.cfg') 5 6 #查看所有的标题 7 res=config.sections() #['section1', 'section2'] 8 print(res) 9 10 #查看标题section1下所有key=value的key 11 options=config.options('section1') 12 print(options) #['k1', 'k2', 'user', 'age', 'is_admin', 'salary'] 13 14 #查看标题section1下所有key=value的(key,value)格式 15 item_list=config.items('section1') 16 print(item_list) #[('k1', 'v1'), ('k2', 'v2'), ('user', 'egon'), ('age', '18'), ('is_admin', 'true'), ('salary', '31')] 17 18 #查看标题section1下user的值=>字符串格式 19 val=config.get('section1','user') 20 print(val) #egon 21 22 #查看标题section1下age的值=>整数格式 23 val1=config.getint('section1','age') 24 print(val1) #18 25 26 #查看标题section1下is_admin的值=>布尔值格式 27 val2=config.getboolean('section1','is_admin') 28 print(val2) #True 29 30 #查看标题section1下salary的值=>浮点型格式 31 val3=config.getfloat('section1','salary') 32 print(val3) #31.0
改写
1 import configparser 2 3 config=configparser.ConfigParser() 4 config.read('a.cfg') 5 6 7 #删除整个标题section2 8 config.remove_section('section2') 9 10 #删除标题section1下的某个k1和k2 11 config.remove_option('section1','k1') 12 config.remove_option('section1','k2') 13 14 #判断是否存在某个标题 15 print(config.has_section('section1')) 16 17 #判断标题section1下是否有user 18 print(config.has_option('section1','')) 19 20 21 #添加一个标题 22 config.add_section('egon') 23 24 #在标题egon下添加name=egon,age=18的配置 25 config.set('egon','name','egon') 26 config.set('egon','age',18) #报错,必须是字符串 27 28 29 #最后将修改的内容写入文件,完成最终的修改 30 config.write(open('a.cfg','w'))
==============》更详细如下
好多软件的常见文档格式如下，文件名为test.ini：
1 [DEFAULT] 2 ServerAliveInterval = 45 3 Compression = yes 4 CompressionLevel = 9 5 ForwardX11 = yes 6 7 [bitbucket.org] 8 User = hg 9 10 [topsecret.server.com] 11 Port = 50022 12 ForwardX11 = no
1 [PHP] 2 engine = On 3 short_open_tag = Off 4 asp_tags = Off 5 precision = 14 6 output_buffering = 4096 7 zlib.output_compression = Off 8 implicit_flush = Off 9 unserialize_callback_func = 10 serialize_precision = 17 11 disable_functions = 12 disable_classes = 13 zend.enable_gc = On 14 expose_php = On 15 max_execution_time = 30 16 max_input_time = 60 17 memory_limit = 128M 18 error_reporting = E_ALL & ~E_DEPRECATED & ~E_STRICT 19 display_errors = Off 20 display_startup_errors = Off 21 log_errors = On 22 log_errors_max_len = 1024 23 ignore_repeated_errors = Off 24 ignore_repeated_source = Off 25 report_memleaks = On 26 track_errors = Off 27 html_errors = On 28 variables_order = "GPCS" 29 request_order = "GP" 30 register_argc_argv = Off 31 auto_globals_jit = On 32 post_max_size = 8M 33 auto_prepend_file = 34 auto_append_file = 35 default_mimetype = "text/html" 36 doc_root = 37 user_dir = 38 enable_dl = Off 39 file_uploads = On 40 upload_max_filesize = 2M 41 max_file_uploads = 20 42 allow_url_fopen = On 43 allow_url_include = Off 44 default_socket_timeout = 60 45 [CLI Server] 46 cli_server.color = On 47 [Date] 48 [filter] 49 [iconv] 50 [intl] 51 [sqlite] 52 [sqlite3] 53 [Pcre] 54 [Pdo] 55 [Pdo_mysql] 56 pdo_mysql.cache_size = 2000 57 pdo_mysql.default_socket= 58 [Phar] 59 [mail function] 60 SMTP = localhost 61 smtp_port = 25 62 sendmail_path = /usr/sbin/sendmail -t -i 63 mail.add_x_header = On 64 [SQL] 65 sql.safe_mode = Off 66 [ODBC] 67 odbc.allow_persistent = On 68 odbc.check_persistent = On 69 odbc.max_persistent = -1 70 odbc.max_links = -1 71 odbc.defaultlrl = 4096 72 odbc.defaultbinmode = 1 73 [Interbase] 74 ibase.allow_persistent = 1 75 ibase.max_persistent = -1 76 ibase.max_links = -1 77 ibase.timestampformat = "%Y-%m-%d %H:%M:%S" 78 ibase.dateformat = "%Y-%m-%d" 79 ibase.timeformat = "%H:%M:%S" 80 [MySQL] 81 mysql.allow_local_infile = On 82 mysql.allow_persistent = On 83 mysql.cache_size = 2000 84 mysql.max_persistent = -1 85 mysql.max_links = -1 86 mysql.default_port = 87 mysql.default_socket = 88 mysql.default_host = 89 mysql.default_user = 90 mysql.default_password = 91 mysql.connect_timeout = 60 92 mysql.trace_mode = Off 93 [MySQLi] 94 mysqli.max_persistent = -1 95 mysqli.allow_persistent = On 96 mysqli.max_links = -1 97 mysqli.cache_size = 2000 98 mysqli.default_port = 3306 99 mysqli.default_socket = 100 mysqli.default_host = 101 mysqli.default_user = 102 mysqli.default_pw = 103 mysqli.reconnect = Off 104 [mysqlnd] 105 mysqlnd.collect_statistics = On 106 mysqlnd.collect_memory_statistics = Off 107 [OCI8] 108 [PostgreSQL] 109 pgsql.allow_persistent = On 110 pgsql.auto_reset_persistent = Off 111 pgsql.max_persistent = -1 112 pgsql.max_links = -1 113 pgsql.ignore_notice = 0 114 pgsql.log_notice = 0 115 [Sybase-CT] 116 sybct.allow_persistent = On 117 sybct.max_persistent = -1 118 sybct.max_links = -1 119 sybct.min_server_severity = 10 120 sybct.min_client_severity = 10 121 [bcmath] 122 bcmath.scale = 0 123 [browscap] 124 [Session] 125 session.save_handler = files 126 session.use_cookies = 1 127 session.use_only_cookies = 1 128 session.name = PHPSESSID 129 session.auto_start = 0 130 session.cookie_lifetime = 0 131 session.cookie_path = / 132 session.cookie_domain = 133 session.cookie_httponly = 134 session.serialize_handler = php 135 session.gc_probability = 1 136 session.gc_divisor = 1000 137 session.gc_maxlifetime = 1440 138 session.bug_compat_42 = Off 139 session.bug_compat_warn = Off 140 session.referer_check = 141 session.cache_limiter = nocache 142 session.cache_expire = 180 143 session.use_trans_sid = 0 144 session.hash_function = 0 145 session.hash_bits_per_character = 5 146 url_rewriter.tags = "a=href,area=href,frame=src,input=src,form=fakeentry" 147 [MSSQL] 148 mssql.allow_persistent = On 149 mssql.max_persistent = -1 150 mssql.max_links = -1 151 mssql.min_error_severity = 10 152 mssql.min_message_severity = 10 153 mssql.compatability_mode = Off 154 mssql.secure_connection = Off 155 [Assertion] 156 [mbstring] 157 [gd] 158 [exif] 159 [Tidy] 160 tidy.clean_output = Off 161 [soap] 162 soap.wsdl_cache_enabled=1 163 soap.wsdl_cache_dir="/tmp" 164 soap.wsdl_cache_ttl=86400 165 soap.wsdl_cache_limit = 5 166 [sysvshm] 167 [ldap] 168 ldap.max_links = -1 169 [mcrypt] 170 [dba] 171 172 php.ini文件的格式也是如翠
1 获取所有节点
1 import configparser 2 config=configparser.ConfigParser() 3 config.read('test.ini',encoding='utf-8') 4 res=config.sections() 5 print(res) 6 7 ''' 8 打印结果: 9 ['bitbucket.org', 'topsecret.server.com'] 10 '''
2 获取指定节点下所有的键值对
1 import configparser 2 config=configparser.ConfigParser() 3 config.read('test.ini',encoding='utf-8') 4 res=config.items('bitbucket.org') 5 print(res) 6 7 ''' 8 打印结果:(包含DEFAULT以及bitbucket.org这俩标题下所有的items) 9 [('serveraliveinterval', '45'), ('compression', 'yes'), ('compressionlevel', '9'), ('forwardx11', 'yes'), ('user', 'hg')] 10 '''
3 获取指定节点下所有的建
1 import configparser 2 config=configparser.ConfigParser() 3 config.read('test.ini',encoding='utf-8') 4 res=config.options('bitbucket.org') 5 print(res) 6 7 ''' 8 打印结果:(包含DEFAULT以及bitbucket.org这俩标题下所有的键) 9 ['user', 'serveraliveinterval', 'compression', 'compressionlevel', 'forwardx11']'''
4 获取指定节点下指定key的值
1 import configparser 2 config=configparser.ConfigParser() 3 config.read('test.ini',encoding='utf-8') 4 res1=config.get('bitbucket.org','user') 5 6 res2=config.getint('topsecret.server.com','port') 7 res3=config.getfloat('topsecret.server.com','port') 8 res4=config.getboolean('topsecret.server.com','ForwardX11') 9 10 print(res1) 11 print(res2) 12 print(res3) 13 print(res4) 14 15 ''' 16 打印结果: 17 hg 18 50022.0 19 False 20 '''
5 检查、删除、添加节点
1 import configparser 2 config=configparser.ConfigParser() 3 config.read('test.ini',encoding='utf-8') 4 5 #检查 6 has_sec=config.has_section('bitbucket.org') 7 print(has_sec) #打印True 8 9 #添加节点 10 config.add_section('egon') #已经存在则报错 11 config['egon']['username']='gangdan' 12 config['egon']['age']='18' 13 config.write(open('test.ini','w')) 14 15 #删除节点 16 config.remove_section('egon') 17 config.write(open('test.ini','w'))
6 检查、删除、设置指定组内的键值对
1 import configparser 2 config=configparser.ConfigParser() 3 config.read('test.ini',encoding='utf-8') 4 5 #检查 6 has_sec=config.has_option('bitbucket.org','user') #bitbucket.org下有一个键user 7 print(has_sec) #打印True 8 9 #删除 10 config.remove_option('DEFAULT','forwardx11') 11 config.write(open('test.ini','w')) 12 13 #设置 14 config.set('bitbucket.org','user','gangdang') 15 config.write(open('test.ini','w'))
1 """ 2 基于上述方法添加一个ini文档 3 """ 4 import configparser 5 6 config = configparser.ConfigParser() 7 config["DEFAULT"] = {'ServerAliveInterval': '45', 8 'Compression': 'yes', 9 'CompressionLevel': '9'} 10 11 config['bitbucket.org'] = {} 12 config['bitbucket.org']['User'] = 'hg' 13 config['topsecret.server.com'] = {} 14 topsecret = config['topsecret.server.com'] 15 topsecret['Host Port'] = '50022' # mutates the parser 16 topsecret['ForwardX11'] = 'no' # same here 17 config['DEFAULT']['ForwardX11'] = 'yes' 18 with open('example.ini', 'w') as configfile: 19 config.write(configfile)
13、软件开发规范
目录结构：
