• Hadoop综合大作业


    一、用Hive对爬虫大作业产生的文本文件(或者英文词频统计下载的英文长篇小说)词频统计。

    1、启动hadoop

    2、hdfs上创建文件夹并查看

    3、上传英文词频统计文本至hdfs

    4、启动hive

    5、创建novel原始文档表

    6、导入文件内容到表novel并查看

    7、用HQL进行词频统计,结果放在表k_word_count里

    8、查看统计结果

    二、用Hive对产生的csv文件进行数据分析,写一篇博客描述你的分析过程和分析结果。

    1、产生CSV文件一览图

    2、删除文件的第一条数据并查看

    3、上传文件到hdfs

    4、启动hive

    5、导入文件内容到表到docs中并查看

    6、总结

    由于我爬的是学校的新闻,是一个新闻类网站,可以用来分析的数据并不多,所以只爬取了新闻标题、时间等信息。

    通过这个大作业,我对如何进行大数据分析有一定的了解,对使用hadoop,hive等也有一定的了解。

  • 相关阅读:
    万丈高楼平地起
    @synthesis 使用的时候注意的地方
    arc4random()
    Whereami: CLLocationManager not calling delegate
    总结
    生病两日,真是难受
    Xcode 5 Error CertUIFramework.axbundle
    c++笔记 重要的声明
    class
    检查没有错误或警告
  • 原文地址:https://www.cnblogs.com/LauSir139/p/9087965.html
Copyright © 2020-2023  润新知