• (22)hadoop shell命令操作


    进入hadoop的客户端接口:(可以在任何地方运行客户端)

    hadoop-2.7.3/bin/hadoop(或hdfs)

    查看hadoop的hdfs文件系统:

    hadoop fs -ls /(相当于hadoop fs -ls hdfs://namenode主机名:9000/*)

    (也可以通过浏览器打开http://namenode:50070 Utilities-->browse the file system 查看文件系统并下载文件)

    上传本地文件到hadoop文件系统:

    hadoop fs -put 本地文件名 /

    操作hdfs中的文件:

    hadoop fs -[操作名] 文件名(带目录)

    如阅读hdfs中的文件: hadoop fs -cat 文件名(带目录)

    下载hdfs中的文件: hadoop fs -get 文件名(带目录)

    使用mapreduce功能:

    (1)在hdfs中创建目录:hadoop fs -mkdir (-p) /wordcount/input

    (2)上传文件到上述目录: hadoop fs -put a.txt b.txt /wordcount/input

    (3)进入jar包目录: cd /home/hadoop/apps/hadoop-2.6.4/share/hadoop/mapreduce

    (4)运行功能: hadoop jar jar包名称(.jar) 要运行的主类 主类需要的输入参数 程序输出数据保存的目录(必须不存在)

    常用hdfs客户端命令详解:

    -help             

    功能:输出这个命令参数手册

    -ls                  

    功能:显示目录信息

    示例: hadoop fs -ls hdfs://hadoop-server01:9000/

    备注:这些参数中,所有的hdfs路径都可以简写

    -->hadoop fs -ls /   等同于上一条命令的效果

    -mkdir              

    功能:在hdfs上创建目录

    示例:hadoop fs  -mkdir  -p  /aaa/bbb/cc/dd

    -moveFromLocal            

    功能:从本地剪切粘贴到hdfs

    示例:hadoop  fs  - moveFromLocal  /home/hadoop/a.txt  /aaa/bbb/cc/dd

    -moveToLocal              

    功能:从hdfs剪切粘贴到本地

    示例:hadoop  fs  - moveToLocal   /aaa/bbb/cc/dd  /home/hadoop/a.txt

    --appendToFile  

    功能:追加一个文件到已经存在的文件末尾

    示例:hadoop  fs  -appendToFile  ./hello.txt  hdfs://hadoop-server01:9000/hello.txt(必须存在)

    可以简写为:

    Hadoop  fs  -appendToFile  ./hello.txt  /hello.txt

    -cat  

    功能:显示文件内容  

    示例:hadoop fs -cat  /hello.txt

    -tail                 

    功能:显示一个文件的末尾

    示例:hadoop  fs  -tail  /weblog/access_log.1

    -text                  

    功能:以字符形式打印一个文件的内容

    示例:hadoop  fs  -text  /weblog/access_log.1

    -chgrp

    -chmod

    -chown

    功能:linux文件系统中的用法一样,对文件所属权限

    示例:

    hadoop  fs  -chmod  666  /hello.txt

    hadoop  fs  -chown  someuser:somegrp   /hello.txt

    -copyFromLocal    

    功能:从本地文件系统中拷贝文件到hdfs路径去

    示例:hadoop  fs  -copyFromLocal  ./jdk.tar.gz  /aaa/

    -copyToLocal      

    功能:从hdfs拷贝到本地

    示例:hadoop fs -copyToLocal /aaa/jdk.tar.gz

    -cp              

    功能:从hdfs的一个路径拷贝hdfs的另一个路径

    示例: hadoop  fs  -cp  /aaa/jdk.tar.gz  /bbb/jdk.tar.gz.2

    -mv                     

    功能:在hdfs目录中移动文件

    示例: hadoop  fs  -mv  /aaa/jdk.tar.gz  /

    -get              

    功能:等同于copyToLocal,就是从hdfs下载文件到本地

    示例:hadoop fs -get  /aaa/jdk.tar.gz

    -getmerge             

    功能:下载并合并多个文件

    示例:比如hdfs的目录 /aaa/下有多个文件:log.1, log.2,log.3,...

    hadoop fs -getmerge /aaa/log.* ./log.sum

    -put                

    功能:等同于copyFromLocal

    示例:hadoop  fs  -put  /aaa/jdk.tar.gz  /bbb/jdk.tar.gz.2

    -rm                

    功能:删除文件或文件夹

    示例:hadoop fs -rm -r /aaa/bbb/

    -rmdir                 

    功能:删除空目录

    示例:hadoop  fs  -rmdir   /aaa/bbb/ccc

    -df               

    功能:统计文件系统的可用空间信息

    示例:hadoop  fs  -df  -h  /

    -du

    功能:统计文件夹的大小信息

    示例:

    hadoop  fs  -du  -s  -h /aaa/*

    -count         

    功能:统计一个指定目录下的文件节点数量

    示例:hadoop fs -count /aaa/

    -setrep                

    功能:设置hdfs中文件的副本数量

    示例:hadoop fs -setrep 3 /aaa/jdk.tar.gz

    <这里设置的副本数只是记录在namenode的元数据中,是否真的会有这么多副本,还得看datanode的数量>

  • 相关阅读:
    Delphi 11.1 Unable to get provider androidx.core.content.FileProvider
    git修改提交信息
    x86指令深度学习(重点)
    ELF文件学习
    Unwind 栈回溯
    有关git push origin HEAD:refs/for/
    linux内核编译/kbuild/makefile
    集群高并发情况下如何保证分布式唯一全局id生成
    【设计模式】—建造者设计模式
    【设计模式】—适配器设计模式
  • 原文地址:https://www.cnblogs.com/paradis/p/10955613.html
Copyright © 2020-2023  润新知