• HDFS扩容


    HDFS的扩容方式

      方式一:横向扩容,添加节点:参考https://www.cnblogs.com/IT_CH/p/12361096.html

      方式二:纵向扩容,通过添加硬盘,扩充HDFS的容量【通过增加DataNode的容量实现纵向扩容

    如何纵向扩容?

    1.添加一块新硬盘

     通过lsblk命令查看当前系统硬盘的使用情况【类似windows中的我的电脑】

     2.硬盘添加之后,不能直接使用,先进行分区

      fdisk /dev/sdb 【fdisk就是用来创建分区表的】

      分区表的作用:就是把一块单独的物理硬盘,划分成几个各自相互独立的区域,便于我们更方便运用硬盘

      进入向导:创建分区大小为10G

      n:分区

      p:查看分区表

      w:将分区信息写入硬盘

      q:退出当前操作

     创建2个分区:

     

     3.分区之后需要格式化

      centerOS7的默认文件系统是xfs,centerOS6默认的文件系统是ext4

      格式化:mkfs.哪种文件系统

      mkfs.xfs /dev/sdb1 格式化并构建xfs文件系统

     4.格式化后还需要进行挂载【文件系统和盘符没有任何关系】

      命令:mount 设备 文件夹

      例如:mount /dev/cdrom /mut 访问mut就相当于访问cdrom(光盘CD/DVD)【专门用于挂载光盘的】 

      mount /dev/sdb1【设备】 /sdb1【文件夹】要先创建sdb1文件夹(/目录下)

      umount /dev/sdb1 /sdb1 解除关系

    ······电脑一旦重启就不挂载了,所以还要配置开机挂载

      vim /etc/fstab 配置开机挂载信息

     

     5.修改hdfs-site.xml配置文件

      文件目录:vim /opt/software/hadoop-2.7.7/etc/hadoop/hdfs-site.xml

     19 <configuration>
     20         <property>
     21                 <name>dfs.replication</name>
     22                 <value>3</value>
     23         </property>
     24         <property>
     25                 <name>dfs.datanode.data.dir</name>
     26                 <value>/sdb1/data,/opt/software/hadoop-2.7.7/tmp/dfs/data</value>
     27         </property>
     28 </configuration>

    在主节点启动:start-dfs.sh【查看DataNode容量是否已经增加】

  • 相关阅读:
    奋斗了一晚上,搞定了Ant
    我很成功,我很失败
    管理复杂性
    Rapid framework(SSH)数据流概述
    Strtus2 Convention Plugin学习(转)
    16X16 经典silk图标 (famfamfam.com)
    v512 Oracle数据库实用教程 演示用ppt(转pdf)
    RapidFramework使用Oracle的步骤
    oracle 找出最耗资源的sql (dolphin_ygj)
    jquery validate 中文化
  • 原文地址:https://www.cnblogs.com/IT_CH/p/12365589.html
Copyright © 2020-2023  润新知