• Sqoop安装及指令


    Sqoop介绍

    sqoop是Apache 提供的工具

    用于hdfs和关系型数据库之间数据的导入和导入

    可以从hdfs导出数据到关系型数据库,也可以从关系型数据库导入数据到hdfs。

       

    实现步骤:

    1.准备sqoop安装包,官网地址:http://sqoop.apache.org

    2.配置jdk环境变量和Hadoop的环境变量。因为sqoop在使用是会去找环境变量对应的路径,从而完整工作。

    3.sqoop解压即可使用(前提是环境变量都配好了)

    4.需要将要连接的数据库的驱动包加入sqoop的lib目录下(本例中用的是mysql数据库)

    5.利用指令操作sqoop

       

    Sqoop基础指令(在Sqoop的bin目录下执行下列指令)

    说明

    指令示例

    查看mysql所有数据库

    sh sqoop list-databases --connect jdbc:mysql://hadoop01:3306/ -username root -password root

       

      

    查看指定数据库下的所有表

    sh sqoop list-tables --connect jdbc:mysql://hadoop02:3306/hive -username root -password root

    关系型数据库==>hdfs

    sh sqoop import -help(查看import的帮助指令)

    实现步骤:

    1.现在mysql数据库的test数据下建立一张tabx表,并插入测试数据

    建表:create table tabx (id int,name varchar(20));

    插入:insert into tabx (id,name) values (1,'aaa'),(2,'bbb'),(3,'ccc'),(1,'ddd'),(2,'eee'),(3,'fff');

    2.进入到sqoopbin目录下,执行导入语句

    导入:

    sh sqoop import --connect jdbc:mysql://192.168.150.138:3306/test --username root --password root --table tabx --target-dir '/sqoop/tabx' --fields-terminated-by '|' -m 1;

    hdfs==>关系型数据库

    执行:sh sqoop export --connect jdbc:mysql://192.168.150.138:3306/test --username root --password root --export-dir '/sqoop/tabx/part-m-00000' --table taby -m 1 --fields-terminated-by '|'
    注:sqoop只能导出数据,不能自动建表。所以在导出之前,要现在mysql数据库里建好对应的表
     

     

  • 相关阅读:
    java 多线程 CountDownLatch用法
    android的消息处理机制(图+源码分析)——Looper,Handler,Message
    Handler 总结
    Android常用UI编程_TextView实现跑马灯效果
    Android常用UI编程_TextView实现Activity转变
    Android常用UI编程_TextView显示图片和文字(包含超链接)
    Http编程 ___ 1
    Iterator用法
    增强型for循环
    Android_文件下载
  • 原文地址:https://www.cnblogs.com/shuzhiwei/p/11316718.html
Copyright © 2020-2023  润新知