• 大数据应用期末总评


    作业要求:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/3339

    1.将爬虫大作业产生的csv文件上传到HDFS

     

    2.对CSV文件进行预处理生成无标题文本文件

     

    3.打开数据仓库Hive

     

    4.把hdfs中的文本文件最终导入到数据仓库Hive中

     

    5.在Hive中查看并分析数据

    查看用户名:

     

    查看用户是否观看过电影:

     

    查看从热到冷的评论的用户名及查看人数:

     

    查看用户对这部电影的态度:

     

    查看评论热度大于1000的用户名及人数:

     

    查看表格的用户个数:

     

    查看看过电影的用户人数:

     

    查看热度超过1000的评论:

     

    查看热度低于10的评论的条数:

     

    查看热度为1的评论的条数:

     

    6.分析过程。

    下图为书写评论的人中看没看过电影的人数的扇形图,如图显示虽然大部分人都是看过电影的,但是还是有相当一部分人是在没有看过电影的情况下胡说八道的。

     

    下图为热度低于10的评论条数占评论总数的扇形图,从评论中可以看出,热度低于10也就是只有极少数人认同的评论占据了评论的绝大多数。

     

    下图为热度等于1的评论条数占评论总数的扇形图,从评论中可以看出,热度等于1也就是几乎没人认同的评论占据了评论的一个不小的比例。

     

    下图为热度等于1的评论条数占热度小于10的评论条数数的扇形图,从评论中可以看出,热度等于1也就是只有几乎没人认同的评论占据了热度小于10的评论的绝大多数。

     

    7.分析结果:

    观看这部电影没有必要看评论,因为绝大多数评论是没有意义的,无人认同的评论占据了大多数。

  • 相关阅读:
    iOS开发快捷键
    通达信指标函数说明大全(2014)(转)
    windows下的wxWidgets环境配置
    Qt->数字格式化
    被称"硬盘杀手"的几个win7系统服务如何关闭(转)
    关闭系统索引(转)
    SSD固态硬盘优化(转)
    通达信的文件目录结构(转)
    Macdrive8破解版如何激活
    IOS6.0调用通讯录和之前的差别
  • 原文地址:https://www.cnblogs.com/LJNAN/p/11058989.html
Copyright © 2020-2023  润新知