• InterBase数据库迁移到MySQL(数据导出)


          这篇我将记叙我的第二个脚本程序,这篇我使用InterBase数据库提供的“isql”命令来导出我所要的数据,但是由于“isql”命令没有直接导出数据的语句,说以我采用的是导入一个配置文件,在这个文件中定义好我要打开的是哪个数据库,以及输入账户名和密码之后使用sql语句查出所要的数据并写入到缓存中。

    CONNECT "127.0.0.1:C:OFFICE.GDB"
    USER "sysdba"
    PASSWORD "masterkey";
    SELECT *FROM DAILYPLU;

           一开始我是打算将数据先导出到文本文件中的,然后再通过第二个程序读取文本文件中的数据,但是后来想想可以讲这个两个程序做成一个的,而且还免去了导出路径以及第二个脚本读取路径的麻烦,于是我便将导出的数据以file类型的变量存在内存中,然后直接对这个变量进行操作,在查看“isql”命令导出的文件格式之后我发现了一个很乱的结果,与我想象的不一样的是,它是先输出一些没有用的话,然后是一行列名,紧接着是一行“===”来隔开列名与数据,然后是20行的内容,紧接着又是一行列名,一行“==”然后循环到数据导完。

          对于这样的数据很难通过直接读取来到MySQL数据库中,所要要在脚本中进行处理,这一步很关键,而且也很复杂…我先使用Python的切片将文件切成两部分,这样我就可以从两部分中分别提取出列名,和数据了,对于第一个部分的列名的读取很简单,应为事先知道列名是第三行,这样我就可以通过切片直接取到第三行的数据了,这样切出来的数据是一行字符串,而使用Python中的join函数可以将一个字符串转换成list,这里还用到了scanf模块,切实很好用,有兴趣的可以深入研究一下,对于后面的数据我发现我遇到的数据全部是数字,于是乎偷了个懒,使用正则表达式将后面的内容除了数字的其他内容全部过滤掉,这样最后的数据就只剩下数字和空格了,对于时间的处理,由于数据中的时间是出现在一行的最后一列的,所以我在处理数据的时候将数据再切成两部分,前面的数字一部分,后面的时间单独进行正则的匹配,然后再把这两组数据拼接在一起组成新的数据,这样得到的仍然是一个字符串,同样通过join函数进行转换,最后再把两部分的数据拼装在一起,这样就输出成了第一行是列名,之后的全部是数据了,下面附上2张图片说明格式化之前和之后的样子:

    01

    之后将格式化的数据输出到文本文件中,以方便后面脚本的读取,下面是程序:

    import os
    import re,pdb,sys,getopt
    
    opts, args = getopt.getopt(sys.argv[1:], "hi:o:",["help","int=","out="])
    input_file=""
    output_file=""
    def usage():
        print """
        -h --help              print the help
        -i --int               To enter the address configuration file
        -o --out               To export the address database 
        """
    for op, value in opts:
        if op in ("-i","--gbk"):
            input_file = value
        elif op in ("-o","--gdb"):
            output_file = value
        elif op in ("-h"):
            usage()
            sys.exit()
    #这个是InterBase数据库导出的命令
    
    def main():
        #执行isql命令将返回一个文件并保存到一个变量中,然后逐行读取这个变量中的内容
        file=os.popen("isql<"+input_file)
        file3=file
        lines = file3.readlines()
        #打开配置文件
        fp = open(output_file,'w')
        #将读取到的数据取出表名,然后再写入到导出的文件的第一行
        lines11 = file3.readlines()
        lines12 = lines11[2:3]
        for line in lines2:
            result = scanf.sscanf(line,'%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s%s')
        linse3 = ",".join(result)
        fp.writelines(linse3)
        #对isql导出的文件进行切片,删除掉没有用的开头
        lines2 = lines[5:-1]
        lines3=[]
        for line in lines2:
        #下面的代码使用正则将空格删除,将时间格式化后拼装回成完整的一条数据
            line=re.sub(r'[^d^s^-^:^.^
    ]','',line)
            time=re.search(r'd{4}-d{2}-d{2}sd{2}:d{2}:d{2}',line)
            if time!=None:
                line=re.sub(r'd{4}-d{2}-d{2}sd{2}:d{2}:d{2}.d{4}','',line)
                line=re.sub(r's+',' ',line)
                sp=line.split(' ')
                sp.append(time.group())
                line=','.join(sp)
                line=re.sub(r'[,]+',',',line)
                line=line.split(',')
                line=line[1:]
                if len(line)!=0:
                    lines3.append(line)
                else:
                    line=re.sub(r'[^d^s^-^:^.^
    ]','',line)
                    line=line[1:].strip()
        #将格式化好的数据逐行的写入到指定的文件中
        for line2 in lines3:
            line2=','.join(line2)
            fp.writelines(line2)
            fp.write('
    ')
    
        fp.close()
    
    if __name__ == '__main__':
       main()
  • 相关阅读:
    【linux]】lighttpd的日志格式
    【vi】awk为指定行的指定字段添加一个单词
    【Android】命令行操作-启动应用程序
    CCS设置第一个li的元素与其他li样式不同
    nginx+tomcat 下POST响应参数过大无法显示完整及文件下载服务遇到过大文件无法下载解决办法
    有重复行,查询时只保留最新一行的sql
    Android定时执行和停止某任务
    MySQL每天自动增加分区
    <html:option获取文本值
    easyui datagrid 增删改查示例
  • 原文地址:https://www.cnblogs.com/fuhuixiang/p/4100247.html
Copyright © 2020-2023  润新知