• hive --桶


    【
     		精解:
     			创建桶表时,指定桶的个数,分桶的依据字段,hive就可以自动将数据分桶存储。查询时只需要遍历一个桶里的数据,或者遍历部分桶,这样就提高了查询效率。
     	】
     	对于每一个表(table)或者分区,hive 可以进一步组织成桶,也就是说桶是更为细粒度的数据范围划分。hive也是针对某一列进行桶的组织。
     	hive采用对列hash,然后除以桶的个数求余的方式决定该条记录存放在哪个桶当中。
    
     	`set hive.enforce.bucketing = true;`
    
     	把表(或者分区)组织成桶(Bucket)有两个理由:
     		1、获得更高的查询处理效率。桶为表加上了额外的结构,hive在处理有些查询时能利用这个结构。具体而言,连接两个在(包含连接列的)
     		相同列划分了桶的表,可以使用map端连接(map-side join)高效的实现。比如join操作。对于join操作两个表有一个相同的列,如果对这
     		两个表都进行桶操作。那么将保存相同列值得桶进行join操作就可以,可以大大减少join的数据。
     		2、使用样(sampling)更高效。在处理大规模数据集时,在开发和修改查询的阶段,如果能在数据集的一小部分数据上试运行查询,会带来很多方便。
    
     	1、创建带分区带桶的table:
     		create table bucketed_user
     		(
     			id int,
     			name string
     		) 
     		partitioned by (stat_date string)
     		clustered by (id) sorted by (name) into 4 buckets 
     		row format delimited fields terminated by '	' [stored as textfile];
    
     		-clustered by 是指根据id的值进行hash后取模分桶个数,根据得到的结果,确定这行数据分入哪个桶中,这样的分法,可以确保相同id的数据放入同一个桶中。
     					  而经销商的线索数据,大部分是根据id进行查询的。这样大部分情况下是只需要查询一个桶中的数据就可以了。
     		-sorted by 是指定桶中的数据以哪个字段进行排序,排序的好处是,在join操作时能获得很高的效率。
     		-into 4 buckets 是指定一共分多少个桶。
     		-在hdfs上存储时,一个桶存入一个文件中,这样根据id进行查询时,可以快速确定数据存在于哪个桶中,而只遍历一个桶可以提供查询效率。
    
     		--插入数据
     			>from bucketed_user_tmp
     			>insert overwrite table bucketed_user partition(stat_date="20171208")
     			>select id,name where stat_date="20171207" sort by id;
    
     		--取样查看
     			>select * from bucketed_user tablesample(bucket 2 out of 2 on id);
    
     		首先,我们来看如何告诉hive一个表应该被划分成桶。我们使用clustered by子句来指定划分桶所用的列和要划分的桶的个数:
     		create table bucketed_user 
     		(
     			id int,
     			name string
     		)
     		clustered by (id) into 4 buckets;
    
     		在这里,我们使用用户ID来确定如何划分桶
    

      

  • 相关阅读:
    java嵌套循环练习
    java菜鸡循环练习
    Kruskal重构树
    狄利克雷卷积
    莫比乌斯反演
    两道趣题
    树状数组
    多重背包
    SPFA与差分约束
    快速线性筛
  • 原文地址:https://www.cnblogs.com/mologa-jie/p/8170185.html
Copyright © 2020-2023  润新知