• hadoop综合大作业


    作业要求来源:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3339

    本案例主要分析在豆瓣爬取的短评数据,数据字段包括地址、评论时间、评论内容、评价程度、用户名和投票数6个属性值,将数据上传到hdfs的hive数据仓库中进行简要分析。

    一、建立一个运行本案例的目录bigdatacase、dataset:

    上传并查看文件

    二、预处理文件,将csv生成txt文件:

    1、删除第一行字段:

    2、预处理字段:

    三、将文本文件上传到hive:

    1、启动hdfs:

    2、在HDFS上建立/bigdatacase/dataset文件夹,将文件上传:

    3、启动mysql:

    4、在hive中创建数据库dblab:

    5、在把hdfs中的“/bigdatabase/dataset”目录下的数据加载到了数据仓库的hive中的,在hive中查看数据,查找表的前10条记录:

    四、Hive数据分析:

    1、查询不重复的用户名:

     通过distinct username 查询出不重复的用户名有多少1871个,总数量2000左右,说明大部分还是比较真实的,但也有部分刷评论的。

    2、查询前10被点赞情况:

    3、查询评价:

    4、查询回复的数量:

    5、查询数据一共有多少条

    6、查询name属性是否相同

    五、总结

    通过本案例,了解hdfs和hive数据仓库的大数据分析基本的原理和操作,在大量数据处理方面,hadoop在数据容纳和分析方面有着先天的优势,步骤和分析的数据还要进一步熟悉,步骤出错很容易引起一大串问题,爬取的数据要有有意义。

  • 相关阅读:
    自我介绍
    最大连通子数组求和
    敏捷开发方法综述
    第四周学习进度条
    时间日志和缺陷日志
    最大子数组2.0
    最大子数组1.0
    第三周学习进度条
    小学四则运算3.0
    单元测试
  • 原文地址:https://www.cnblogs.com/mofan2233/p/11031744.html
Copyright © 2020-2023  润新知