• 大规模数据导入和导出(mysql)


    测试数据2.5G,共有数据9427567条。用的mysql的large服务器的配置。
    load 一次需要大概10分钟左右。
    建的表用的是MYISAM,调整了几个session的参数值

    SET SESSION BULK_INSERT_BUFFER_SIZE = 256217728 ;
    SET SESSION MYISAM_SORT_BUFFER_SIZE = 256217728 ; 
    运行结果如下

    Query OK, 9427567 rows affected, 1558 warnings (3 min 55.21 sec)
    Records: 9427567 Deleted: 0 Skipped: 0 Warnings: 0
    google到的还可以

    set global KEY_BUFFER_SIZE = 256217728 ;
    alter table tablename disable keys ; 
    如何load 数据里面带反斜杠(backslash)”” 的数据 
    由于如果你没有指定FIELDS子句,则默认值为假设您写下如下语句时的值:
    FIELDS TERMINATED BY ‘ ’ ENCLOSED BY ” ESCAPED BY ‘\’
    所以,如果你的数据里面有反斜杠(backslash)””的时候,数据会出现被截断的问题。出现这种问题,只要写上如下的fields子句即可
    FIELDS TERMINATED BY ‘ ’ ENCLOSED BY ” ESCAPED BY ”

    如何load 不同编码的数据 
    原来用的4.X的mysql,我是select into   outfile ,只后用iconv,或者其他软件来做。可以参考这里 ,但是由于这次数据大,用ultraedit等软件打开都要半天。好在新版的mysql可以增加一个新的参数
    CHARACTER SET gbk
    我的文本数据是GBK的编码,数据表是utf8的,用这种方法测试成功。
    如何load 的时候只insert特定的列 
    比如表里面有比元数据多的列。可以在load 的时候指定要插入的字段名字。

    示例的代码如下:

    LOAD DATA INFILE ' ~/data.txt '    
    INTO TABLE fb0505    
    CHARACTER SET   gbk    
    FIELDS TERMINATED BY ' ' ENCLOSED BY '' ESCAPED BY '' 
    LINES TERMINATED BY ' ' STARTING BY ''   
    ( seller_id , fb_type , fb_date , item_url ) ; 
    其中表fb0505里面还有一列是id。

  • 相关阅读:
    【程序员面试宝典】第五章 程序设计基本概念
    win7打开或关闭windows功能 提示“出现错误,并非所有的功能被更改”,管理员权限惹的祸
    堆排序
    目态与管态的概念
    循环不变式的概念
    getchar()函数的返回值赋给char型,用if(ch=getchar() != EOF)测试,输入ctrl+z同样可以结束循环的分析
    java算法 -- 冒泡排序
    Java算法 -- 二分查找
    Sql知识点总结
    java实现 链表反转
  • 原文地址:https://www.cnblogs.com/8899man/p/7249407.html
Copyright © 2020-2023  润新知