• hive中的一些参数


    动态分区

    设置如下参数开启动态分区:
    hive.exec.dynamic.partition=true
    默认值:false
    描述:是否允许动态分区
    hive.exec.dynamic.partition.mode=nonstrict
    默认值:strict
    描述:strict是避免全分区字段是动态的,必须有至少一个分区字段是指定有值的


    设置如下参数配置动态分区的使用环境:
    hive.exec.max.dynamic.partitions.pernode=100
    默认值:100
    描述:each mapper or reducer可以创建的最大动态分区数
    hive.exec.max.dynamic.partitions=1000
    默认值:1000
    描述:一个DML操作可以创建的最大动态分区数
    hive.exec.max.created.files=100000
    默认值:100000
    描述:一个DML操作可以创建的文件数

    设置如下参数取消一些限制(HIVE 0.7后没有此限制):
    hive.merge.mapfiles=false
    默认值:true
    描述:是否合并Map的输出文件
    hive.merge.mapredfiles=false
    默认值:false
    描述:是否合并Reduce的输出文件

    文件类型

    lzo文件类型
    set mapred.output.compress=true;
    set hive.exec.compress.output=true;
    set mapred.output.compression.codec=com.hadoop.compression.lzo.LzopCodec;


    parquet文件类型
    set mapred.output.compress=true;
    set hive.exec.compress.output=true;
    set mapred.output.compression.codec=org.apache.hadoop.hive.ql.io.parquet.MapredParquetOutputFormat

  • 相关阅读:
    vue 传参动态
    a href="tel" 拨打电话
    vue中rem的转换
    请求接口的封装
    http request 请求拦截器,有token值则配置上token值
    node溢出
    vue菜单切换
    vue的table切换
    vue页面初始化
    [论文笔记] Legacy Application Migration to the Cloud: Practicability and Methodology (SERVICES, 2012)
  • 原文地址:https://www.cnblogs.com/wujin/p/6076784.html
Copyright © 2020-2023  润新知