• Hadoop源代码分析(一)


     

      Google的核心竞争技术是它的计算平台。Google的大牛们用了下面5篇文章,介绍了它们的计算设施。
      GoogleCluster

      Chubby

      GFS

      BigTable
      MapReduce

      很快,Apache上就出现了一个类似的解决方案,目前它们都属于ApacheHadoop项目,对应的分别是:
      Chubby-->ZooKeeper
      GFS-->HDFS
      BigTable-->HBase
      MapReduce-->Hadoop
      目前,基于类似思想的Open Source项目还很多,如Facebook用于用户分析的Hive
      HDFS
    作为一个分布式文件系统,是所有这些项目的基础。分析好HDFS,有利于了解其他系统。由于HadoopHDFSMapReduce是同一个项目,我们就把他们放在一块,进行分析。

      下图是MapReduce整个项目的顶层包图和他们的依赖关系。Hadoop包之间的依赖关系比较复杂,原因是HDFS提供了一个分布式文件系统,该系统提供API,可以屏蔽本地文件系统和分布式文件系统,甚至象Amazon S3这样的在线存储系统。这就造成了分布式文件系统的实现,或者是分布式文件系统的底层的实现,依赖于某些貌似高层的功能。功能的相互引用,造成了蜘蛛网型的依赖关系。一个典型的例子就是包conf,conf用于读取系统配置,它依赖于fs,主要是读取配置文件的时候,需要使用文件系统,而部分的文件系统的功能,在包fs中被抽象了。

      Hadoop的关键部分集中于图中蓝色部分,这也是我们考察的重点。

     

  • 相关阅读:
    IOS NSUserDefaults 讲解 用法
    iOS6新特征:UICollectionView介绍
    iOS开发- UICollectionView详解+实例
    iOS——文件操作NSFileManager (创建、删除,复制,粘贴)
    ios对SQLite3的使用
    TableView_图片异步加载 KVO
    IOS文件操作的两种方式:NSFileManager操作和流操作
    对象归档
    利用百度智能云结合Python体验图像识别(来自qylruirui)
    python基于OpenCV的人脸识别系统
  • 原文地址:https://www.cnblogs.com/94julia/p/2992282.html
Copyright © 2020-2023  润新知