一、用Hive对爬虫大作业产生的文本文件(或者英文词频统计下载的英文长篇小说)词频统计。
1、启动hadoop
2、hdfs上创建文件夹并查看
3、上传英文词频统计文本至hdfs
4、启动hive
5、创建novel原始文档表
6、导入文件内容到表novel并查看
7、用HQL进行词频统计,结果放在表k_word_count里
8、查看统计结果
二、用Hive对产生的csv文件进行数据分析,写一篇博客描述你的分析过程和分析结果。
1、产生CSV文件一览图
2、删除文件的第一条数据并查看
3、上传文件到hdfs
4、启动hive
5、导入文件内容到表到docs中并查看
6、总结
由于我爬的是学校的新闻,是一个新闻类网站,可以用来分析的数据并不多,所以只爬取了新闻标题、时间等信息。
通过这个大作业,我对如何进行大数据分析有一定的了解,对使用hadoop,hive等也有一定的了解。