• Linux实验:hdfs shell基本命令操作(一)


    【实验目的】

        1)熟练hdfs shell命令操作

        2)理解hdfs shell和linux shell命令

    【实验原理】

        安装好hadoop环境之后,可以执行hdfs shell命令对hdfs 的空间进行操作。我们通过命令行和HDFS打交道,进一步增加对HDFS的认识,HDFS命令行接口是一种最直接,也比较简单的一种方式。

        调用文件系统(FS)Shell命令应使用bin/hadoop fs 的形式。也可以使用其他形式:

        hadoop dfs {args}

        hdfs dfs {args}

        所有的FS shell命令使用URI路径作为参数。URI格式是scheme://authority/path。HDFS的scheme是hdfs,对本地文件系统,scheme是file。其中scheme和authority参数都是可选的,如果未加指定,就会使用配置中指定的默认scheme。

    【实验环境】

        本次环境是:centos6.5 + jdk1.7.0_79 + hadoop2.4.1

        工具包在/simple/soft目录下

    【实验步骤】

        一、hdfs shell命令

            1.1 在任意目录下(需要配置hadoop环境变量),执行命令:start-dfs.sh 启动hdfs服务。如图1所示

    图1

        1.2启动hdfs之后,通过jps查看hdfs服务是否启动,执行命令:jps 。如图2所示

    图2

        1.3 在任意目录下执行如下命令(配置hadoop环境变量):hdfs dfs -help,查看到所有hdfs shell命令解释。如图3所示

    图3

            1.4 在simple下执行touch words.txt新建words.txt文本,并对文本进行编译(通过vim words.txt命令对文本进行编辑,之后按esc与:wq对文本进行保存)。上传本地(/simple/words.txt)到hdfs文件命令。执行命令:hdfs dfs -put /simple/words.txt / 。如图4所示

    图4

            1.5 查看hdfs指定目录下的文件内容命令。执行命令:hdfs dfs -cat /words.txt。如图5所示

    图5

            1.6 把hdfs根目录下的words.txt文件下载到本地/simple目录下。执行命令:hdfs dfs -get /words.txt /simple/word.txt。如图6所示

    图6

            1.7 把hdfs上指定的文件移动到指定的hdfs位置,执行命令:hdfs dfs -mv /words.txt /wordscp.txt。如图7所示

    图7

            1.8 查看hdfs上指定目录下的文件,本示例时查看hdfs根目录下所有文件和文件夹,执行命令:hdfs dfs -ls / 。如图8所示

    图8

        二、查看所有管理命令

            2.1 在任意目录下执行命令:hadoop dfsadmin -help,查看dfs管理命令注释。如图9所示

    图9

  • 相关阅读:
    初学OptaPlanner-01- 什么是OptaPlanner?
    初学推荐系统-05-Wide&Deep [附tensorflow的WideDeepModel代码简单实践]
    初学推荐系统-04-FM (因子分解机:多特征的二阶特征交叉)
    初学推荐系统-03- 隐语义模型与矩阵分解
    初学推荐系统-02-协同过滤 (UserCF & ItermCF) -附简单示例和优缺点分析
    [Datawhale 10月] 初学推荐系统-01-概述
    TiDB-BR数据备份和恢复工具
    Oracle-估算运行时间长的耗时操作语句
    Hadoop、Spark——完全分布式HA集群搭建
    Hadoop——集群参数配置详解
  • 原文地址:https://www.cnblogs.com/hign/p/11892701.html
Copyright © 2020-2023  润新知