• 案例


    行转列:

    • CONCAT(string A/col, string B/col…):返回输入字符串连接后的结果,支持任意个输入字符串;
    • CONCAT_WS(separator, str1, str2,...):它是一个特殊形式的 CONCAT()。第一个参数剩余参数间的分隔符。分隔符可以是与剩余参数一样的字符串。如果分隔符是 NULL,返回值也将为 NULL。这个函数会跳过分隔符参数后的任何 NULL 和空字符串。分隔符将被加到被连接的字符串之间;
    • COLLECT_SET(col):函数只接受基本数据类型,它的主要作用是将某字段的值进行去重汇总,产生array类型字段。

    列转行

    • EXPLODE(col):将hive一列中复杂的array或者map结构拆分成多行。
    • LATERAL VIEW
    • 用法:LATERAL VIEW udtf(expression) tableAlias AS columnAlias
    • 解释:用于和split, explode等UDTF一起使用,它能够将一列数据拆成多行数据,在此基础上可以对拆分后的数据进行聚合。

    创建本地文本,写入数据

    vi emp_sex.txt

    孙悟空 白羊座 A

    大海      射手座 A

    宋宋      白羊座 B

    猪八戒    白羊座 A

    凤姐      射手座 A

    创建hive 并导入数据

    create table emp_sex(
    name string, 
    dept_id string, 
    sex string) 
    row format delimited fields terminated by "	";
    load data local inpath '/opt/module/datas/emp_sex.txt' into table emp_sex;

    查询全局数据

    select * from person_info

    行专列

    select    t1.base,    concat_ws('|', collect_set(t1.name)) name
    from
        (select  name,  concat(constellation, ",", blood_type) base
        from   person_info) t1  group by t1.base;

    创建本地文本,写入数据

    vi emp_sex.txt

    《疑犯追踪》  悬疑,动作,科幻,剧情

    Lie to me》  悬疑,警匪,动作,心理,剧情

    《战狼2》  战争,动作,灾难

    创建hive 并导入数据

    create table movie_info(

        movie string,

        category string)

    row format delimited fields terminated by " ";

    load data local inpath "/opt/module/datas/movie.txt" into table movie_info;

    查询全局数据

    select * from movie_info

    行专列

    select

        m.movie,

        tbl.cate

    from

        movie_info m

    lateral view

        explode(split(category, ",")) tbl as cate;

    开窗函数:

    • OVER():指定分析函数工作的数据窗口大小,这个数据窗口大小可能会随着行的变而变化。
    • CURRENT ROW:当前行
    • n PRECEDING:往前n行数据
    • n FOLLOWING:往后n行数据
    • UNBOUNDED:起点,UNBOUNDED PRECEDING 表示从前面的起点, UNBOUNDED FOLLOWING表示到后面的终点
    • LAG(col,n,default_val):往前第n行数据
    • LEAD(col,n, default_val):往后第n行数据
    • NTILE(n):把有序窗口的行分发到指定数据的组中,各个组有编号,编号从1开始,对于每一行,NTILE返回此行所属的组的编号。注意:n必须为int类型
    • RANK() 排序相同时会重复,总数不会变
    • DENSE_RANK() 排序相同时会重复,总数会减少
    • ROW_NUMBER() 会根据顺序计算
  • 相关阅读:
    iOS- Swift:使用FMDB进行数据库操作(线程安全:增删改查)
    iOS- Swift:如何使用iOS8中的UIAlertController
    iOS- Swift和Object-C的混合编程
    iOS- 再谈ARC里内存问题,ARC里数组、对象内存得不到释放?
    iOS- 如何建立索引实现本地文本搜索引擎,允许容错搜索?
    iOS- 全方位解析.crash文件崩溃报告
    iOS- 关于AVAudioSession的使用——后台播放音乐
    iOS- Autolayout自动布局
    iOS- 详解如何使用ZBarSDK集成扫描二维码/条形码,点我!
    419. Roman to Integer【medium】
  • 原文地址:https://www.cnblogs.com/liang1013/p/14038798.html
Copyright © 2020-2023  润新知