• Hive 行转列和列转行


    1.行转列(多行变一行,聚合)

      表数据

    select * from student;
    student.id    student.name
    4    fuqiang
    5    minzhu
    6    hexie

      collect_set()函数只接受基本数据类型,它的主要作用是将某字段的值进行去重汇总,产生 array 类型字段。

    select collect_set(name) from student;
    ["fuqiang","minzhu","hexie"]

    2.列转行(一行变多行,炸裂)

      表数据

    select * from movie_info;
    movie_info.movie movie_info.category
    《疑犯追踪》 ["悬疑","动作","科幻","剧情"]
    《Lie to me》 ["悬疑","警匪","动作","心理","剧情"]
    《战狼 2》 ["战争","动作","灾难"]

      EXPLODE(col):将 hive 一列中复杂的 array 或者 map 结构拆分成多行。

      LATERAL VIEW
      用法:LATERAL VIEW udtf(expression) tableAlias AS columnAlias
      解释:用于和 split, explode 等 UDTF 一起使用,它能够将一列数据拆成多行数据,在此基础上可以对拆分后的数据进行聚合。

    select movie,categoryname from movie_info lateral view explode(category) t as categoryname;
    movie    categoryname
    《疑犯追踪》    悬疑
    《疑犯追踪》    动作
    《疑犯追踪》    科幻
    《疑犯追踪》    剧情
    《Lie to me》    悬疑
    《Lie to me》    警匪
    《Lie to me》    动作
    《Lie to me》    心理
    《Lie to me》    剧情
    《战狼 2》    战争
    《战狼 2》    动作
    《战狼 2》    灾难

      以上写法虽然很蛋疼,但是直接这样写会报错。

    #错误写法
    select
    movie,explode(category) from movie_info;
  • 相关阅读:
    Java关键字new和newInstance的区别
    关于能提高Java代码可重用性的三个措施
    Java编程技巧—— JDBC编程总结
    Java高质量代码之数组与集合
    ab的压力测试(转)
    利用DOCKER实现云桌面的开发环境初步设想
    时间和日期
    内存流-操作文件的方式操作内存
    获取文件描述符
    流定位
  • 原文地址:https://www.cnblogs.com/noyouth/p/12715855.html
Copyright © 2020-2023  润新知