• Storm Tick Tuple


    Storm支持按照一定时间间隔下发一条特殊的Tuple,

    这个功能可以用来实现:定时任务、清除缓存等一些特殊要求。

    一、触发方式

    方式1:在拓扑构建类的setBolt之后,通过addConfiguration方法。

    .addConfiguration(Config.TOPOLOGY_TICK_TUPLE_FREQ_SECS, 3)

    方式2:在拓扑构建类中,增加运行参数。(本次使用)

    config.put(Config.TOPOLOGY_TICK_TUPLE_FREQ_SECS, 30);

    方式3:重写getComponentConfiguration方法配置Config.TOPOLOGY_TICK_TUPLE_FREQ_SECS参数。(这里没有验证,省略)

    目前我知道的有这3种方式来触发Tick Tuple。

    其中方式1位全局配置,方式2作用单个Bolt,如果都配置的时候,范围小的生效。

    二、判断Tick Tuple

    在Spout或Bolt中增加判断是否为Tick Tuple的逻辑处理。

    public static boolean isTickTuple(Tuple tuple) {
        return tuple.getSourceComponent().equals("__system") && tuple.getSourceStreamId().equals("__tick");
    }

    在Storm2.0中,提供了专门TickTuple处理类,用来判断是否为Tick Tuple

    storm-2.0.0/storm-client/src/jvm/org/apache/storm/utils/TupleUtils.java

    public static boolean isTick(Tuple tuple) {
            return tuple != null
                   && Constants.SYSTEM_COMPONENT_ID.equals(tuple.getSourceComponent())
                   && Constants.SYSTEM_TICK_STREAM_ID.equals(tuple.getSourceStreamId());
        }

    三、业务处理

    可以在判断为Tick Tuple的时候,增加一些业务逻辑判断。比如:

    1、如果在Bolt内增加了一些类似List、Map、Queue等缓存数据,希望在满足一些条件的时候清空掉。

    2、用来完成定时任务。比如一定时间间隔需要触发的计算任务。

    -------------------

    网友总结的比较好的博客:

    https://segmentfault.com/a/1190000016746682

    config.put(Config.TOPOLOGY_TICK_TUPLE_FREQ_SECS, 30);
  • 相关阅读:
    cannot import name 'PILLOW_VERSION'
    scala spark2.0 rdd dataframe 分布式计算欧式距离
    scala spark dataframe 修改字段类型
    获取cookie脚本
    Loadrunner 获取请求的返回结果函数web_reg_save_param
    Python模拟接口登录
    web自动化上传附件 2
    Web自动化附件上传
    robotframework 连接mysql数据库
    Json格式获取接口返回的值
  • 原文地址:https://www.cnblogs.com/quchunhui/p/12371824.html
Copyright © 2020-2023  润新知