• hdfs面试题2 ---一般有用


    1、hadoop与云计算之间的关系?

    解析:云计算由位于网络上的一组服务器把其计算、存储、数据等资源以服务的形式提供给请求者以完成信息处理任务的方法和过程。针对海量文本数据处 理,为实现快速文本处理响应,缩短海量数据为辅助决策提供服务的时间,基于Hadoop云计算平台,建立HDFS分布式文件系统存储海量文本数据集,通过 文本词频利用MapReduce原理建立分布式索引,以分布式数据库HBase存储关键词索引,并提供实时检索,实现对海量文本数据的分布式并行处理。所 以,Hadoop是云计算的部分构建。

    2、hadoop2.0的核心组成部分有哪些?

    Hadoop 的生态系统核心组成部分如下图所示:

    这里写图片描述

    3、hdfs1.0基本架构组成?

    HDFS架构包括: HDFS Client、NameNode、DataNode和Secondary NameNode

    4、hdfs读数据流程?

    hdfs读取数据流程图:

    这里写图片描述

    1、首先调用FileSystem对象的open方法,其实获取的是一个DistributedFileSystem的实例。

    2、DistributedFileSystem通过RPC(远程过程调用)获得文件的第一批block的locations,同一block按照重复数会返回多个locations,这些locations按照hadoop拓扑结构排序,距离客户端近的排在前面。

    3、前两步会返回一个FSDataInputStream对象,该对象会被封装成 DFSInputStream对象,DFSInputStream可以方便的管理datanode和namenode数据流客户端调用read方 法,DFSInputStream就会找出离客户端最近的datanode并连接datanode。

    4、数据从datanode源源不断的流向客户端

    5、如果第一个block块的数据读完了,就会关闭指向第一个block块的datanode连接,接着读取下一个block块。这些操作对客户端来说是透明的,从客户端的角度来看只是读一个持续不断的流。

    6、如果第一批block都读完了,DFSInputStream就会去namenode拿下一批blocks的location,然后继续读,如果所有的block块都读完,这时就会关闭掉所有的流。

    5、hdfs 写数据流程?

    hdfs写数据流程:

    这里写图片描述

    1.客户端通过调用 DistributedFileSystem 的create方法,创建一个新的文件。

    2.DistributedFileSystem 通过 RPC(远程过程调用)调用 NameNode,去创建一个没有blocks关联的新文件。创建前,NameNode 会做各种校验,比如文件是否存在,客户端有无权限去创建等。如果校验通过,NameNode 就会记录下新文件,否则就会抛出IO异常。

    3.前两步结束后会返回 FSDataOutputStream 的对象,和读文件的时候相似,FSDataOutputStream 被封装成 DFSOutputStream,DFSOutputStream 可以协调 NameNode和 DataNode。客户端开始写数据到DFSOutputStream,DFSOutputStream会把数据切成一个个小packet然后排成队列 data queue。

    4.DataStreamer 会去处理接受 data queue,它先问询 NameNode 这个新的 block 最适合存储的在哪几个DataNode里,比如重复数是3,那么就找到3个最适合的 DataNode,把它们排成一个 pipeline。DataStreamer 把 packet 按队列输出到管道的第一个 DataNode 中,第一个 DataNode又把 packet 输出到第二个 DataNode 中,以此类推。

    5.DFSOutputStream 还有一个队列叫 ack queue,也是由 packet 组成,等待DataNode的收到响应,当pipeline中的所有DataNode都表示已经收到的时候,这时akc queue才会把对应的packet包移除掉。

    6.客户端完成写数据后,调用close方法关闭写入流。

    7.DataStreamer 把剩余的包都刷到 pipeline 里,然后等待 ack 信息,收到最后一个 ack 后,通知 DataNode 把文件标示为已完成。

    6、hdfs的副本策略?

    这里写图片描述

    7、hdfs2解决了hdfs1的哪些问题,增加了哪些特性?

    • NameNode HA
      1)基于NFS共享存储解决方案
      2)基于Qurom Journal Manager(QJM)解决方案

    • NameNode Federation
      1)存在多个NameNode,每个NameNode分管一部分目录
      2)NameNode共用DataNode

    备注:使用NameNode Federation 能够解决NameNode内存扩展问题

    8、hdfs2如何实现NameNode HA?

    NameNode HA 架构如下:

    这里写图片描述

      • Active NameNode 和 Standby NameNode:

          两台 NameNode 形成互备,一台处于 Active 状态,为主 NameNode,另外一台处于 Standby 状态,为备 NameNode,只有主 NameNode 才能对外提供读写服务。

      • 备切换控制器 ZKFailoverController:

          ZKFailoverController 作为独立的进程运行,对 NameNode 的主备切换进行总体控制。ZKFailoverController 能及时检测到 NameNode 的健康状况,在主 NameNode 故障时借助 Zookeeper 实现自动的主备选举和切换。

      • Zookeeper 集群:

          为主备切换控制器提供主备选举支持。

      • 共享存储系统:

          共享存储系统是实现 NameNode 的高可用最为关键的部分,共享存储系统保存了 NameNode 在运行过程中所产生的 HDFS 的元数据。主 NameNode 和备用NameNode 通过共享存储系统实现元数据同步。在进行主备切换的时候,新的主 NameNode 在确认元数据完全同步之后才能继续对外提供服务。

  • 相关阅读:
    iOS中网络请求判断是否设置代理
    swif开发笔记12-Animations
    swift开发笔记11
    swift开发笔记06
    Idea热部署jrebel失败
    Oracle连接知识
    Idea安装及其简介
    博客园cnblog发布word
    en笔记音标
    测试案例小问题
  • 原文地址:https://www.cnblogs.com/shan13936/p/13747361.html
Copyright © 2020-2023  润新知