机器环境
Ubuntu 14.10 64位 || OpenJDK-7 || Scala-2.10.4
机群概况
Hadoop-2.6.0 || HBase-1.0.0 || Spark-1.2.0 || Zookeeper-3.4.6 || hue-3.8.1
Hue简介(简单介绍):
ue是一个开源的Apache Hadoop UI系统,最早是由Cloudera Desktop演化而来,由Cloudera贡献给开源社区,它是基于Python Web框架Django实现的。通过使用Hue我们可以在浏览器端的Web控制台上与Hadoop集群进行交互来分析处理数据,例如操作HDFS上的数据,运行MapReduce Job等等。很早以前就听说过Hue的便利与强大,一直没能亲自尝试使用,下面先通过官网给出的特性,通过翻译原文简单了解一下Hue所支持的功能特性集合:
- 默认基于轻量级sqlite数据库管理会话数据,用户认证和授权,可以自定义为MySQL、Postgresql,以及Oracle
- 基于文件浏览器(File Browser)访问HDFS
- 基于Hive编辑器来开发和运行Hive查询
- 支持基于Solr进行搜索的应用,并提供可视化的数据视图,以及仪表板(Dashboard)
- 支持基于Impala的应用进行交互式查询
- 支持Spark编辑器和仪表板(Dashboard)
- 支持Pig编辑器,并能够提交脚本任务
- 支持Oozie编辑器,可以通过仪表板提交和监控Workflow、Coordinator和Bundle
- 支持HBase浏览器,能够可视化数据、查询数据、修改HBase表
- 支持Metastore浏览器,可以访问Hive的元数据,以及HCatalog
- 支持Job浏览器,能够访问MapReduce Job(MR1/MR2-YARN)
- 支持Job设计器,能够创建MapReduce/Streaming/Java Job
- 支持Sqoop 2编辑器和仪表板(Dashboard)
- 支持ZooKeeper浏览器和编辑器
- 支持MySql、PostGresql、Sqlite和Oracle数据库查询编辑器
1 Hue安装(参考官网:http://gethue.com/how-to-build-hue-on-ubuntu-14-04-trusty/)
1.1 在git上下载HUE源码或者在它的官网下载(如果已经安装git可省略第一步)
sudo apt-get install git git clone https://github.com/cloudera/hue.git
1.2 需要安装一些依赖的软件包
官网给出了一些,如果环境不一样,灵活调整,GIT上面给出的依赖文件列表:https://github.com/cloudera/hue | Development Prerequisites
sudo apt-get install python2.7-dev make libkrb5-dev libxml2-dev libxslt-dev libsqlite3-dev libssl-dev libldap2-dev python-pip
1.3 因为需要用maven编译,所以需要安装maven,最好是去官网下载maven安装包,3.0以上
1.4 编译Hue
make apps
说明:我在编译的时候出现了两种错误,一是找不到某些文件,这种情况下,需要检查一下是否是少了某一依赖没有安装;二是下载jar包失败,这种情况下,重新make apps,多试几次,在经历了两三天的折腾下,终于编译好了,同时http://gethue.com/how-to-build-hue-on-ubuntu-14-04-trusty/这里面有些回帖,可能问题就和你的一样,我的一个问题就是在别人发的帖子中找到的答案。
发部分错误只要根据关键字在网上都能找到答案,很麻烦,但是一般都能解决。
1.5 启动HUE服务
启动之后能进入http://127.0.0.1:8000/ 就说明安装好了,后面还需要进行很多配置。这里需要说明一下,下面的第一个命令是启动development式,只能在本机使用,也就是只能用127.0.0.1:8000打开,如果想要使用生产环境,那么用第二个命令打开,访问http://IP或域名:8000
./build/env/bin/hue runserver
./build/env/bin/supervisor
2 一个在线的HUE Demo,可以先体验下
http://demo.gethue.com/
3 HUE安装常见问题及解决办法
http://my.oschina.net/cwalet/blog/288336
-------------------------------------------------------------------------------------------------------------------------------------------
参考:
http://gethue.com/
https://github.com/cloudera/hue
http://cloudera.github.io/hue/docs-3.8.0/manual.html
http://docs.hortonworks.com/HDPDocuments/HDP1/HDP-1.3.2/bk_installing_manually_book/content/rpm-chap-hue-2.html
http://ju.outofmemory.cn/entry/105162
http://itindex.net/detail/52831-hue
http://www.tuicool.com/articles/zIrqemB
http://blog.csdn.net/nsrainbow/article/details/43677077
http://www.cloudera.com/content/cloudera/en/documentation/core/latest/topics/cdh_ig_hue_config.html