• hive的udf制剂


    1.配置环境

    1.介绍jar包裹:hive-exec-0.8.0.jar 和 hadoop-core-0.20.2.jar

    2.书写udf性能

    1.extends UDF
    2.又一次定义UDF的evaluate函数。
    package com.qunar.hiveudf;
    import java.text.SimpleDateFormat;
    import java.util.Calendar;
    import java.util.Date;
    
    import org.apache.hadoop.hive.ql.exec.UDF;
    
    public class IsSundayOrSaturday extends UDF
    {
    	public Boolean evaluate(String dateString)
    	{
    		try 
    		{
    			//将string转化为date
    			String str = dateString.split(" ")[0];
    			SimpleDateFormat sdf= new SimpleDateFormat("yyyy-MM-dd");
    			Date date =sdf.parse(str);
    			
    			//将date转换为calendar
    			Calendar calendar = Calendar.getInstance();
    			calendar.setTime(date);
    			
    			//获取date的星期
    			int week = calendar.get(Calendar.DAY_OF_WEEK)-1;
    			if(week == 0 || week == 6)
    			{
    				return true;
    			}
    			else 
    			{
    				return false;
    			}	
    		} 
    		catch (Exception e) 
    		{
    			// TODO: handle exception
    			return false;
    		}
    	}
    }
    

    3.将jar包引入hadoop环境

    1.将jar放入hive的lib的物理文件夹下;

    2.打开hiveclient,增加jar包
    add jar /home/hive/lib/HiveUDF.jar

    3.创建一个暂时文件
    create temporary function IsSundayOrSaturday AS 'com.qunar.hiveudf.IsSundayOrSaturday'

    4.调用函数
    select IsSundayOrSaturday(intime) from user_tag

    注意:

    1.假设函数的參数中含有文件。则先要将文件放入hive的执行环境中
    add file /home/filename


    版权声明:本文博主原创文章。博客,未经同意不得转载。

  • 相关阅读:
    Redis安装测试
    linux 查看磁盘空间大小
    冷备份与热备份、双机热备与容错
    IDEA在编辑时提示could not autowire
    IntelliJ IDEA 快捷键和设置
    POI实现EXCEL单元格合并及边框样式
    metaq架构原理
    二叉树
    开启“树”之旅
    巧妙的邻接表(数组实现)
  • 原文地址:https://www.cnblogs.com/lcchuguo/p/4804531.html
Copyright © 2020-2023  润新知