• 使用logstash同步MongoDB数据到es


    input{
      mongodb{
            codec => "json"
            uri => 'mongodb://127.0.0.1:27017/kuaibao'
            placeholder_db_dir => '/usr/local/etc/logstash-5.6.0/dbdir'
            placeholder_db_name =>'user.db'
            collection => 'user'
            generateId => 'true'
            parse_method => "simple"
        }
    }
    
    filter{
      mutate{remove_field => ["_id"]}
    }
    
    output{
     elasticsearch{
      hosts => ["http://127.0.0.1:9200"]
      index => "ordertrance"
      manage_template=>true
      document_type=>"user"
    }
    stdout {
            codec => json_lines
        }
    }
    

      

    配置如上图,遇到一个坑,卡了我两天,我去。。。。

    刚开始我的placeholder_db_dir是配置成了/usr/local/etc/logstash-5.6.0,也就是logstash的根目录,谁成想配置成这样居然不好使,各种百度各种谷歌,明明跟人家的配置都是一样的,我的就是同步不就去es。差点去世,最后鬼使神差的试着修改了一下placeholder_db_dir,居然可以了,吐血。。。

    进行到最后一步,MongoDB自定义主键无法同步,报错MongoDB Input threw an exception, restarting {:exception=>#<BSON::ObjectId::Invalid: 'zj11111111111111111111' is an invalid ObjectId.>}

    百度谷歌无果,准备使用mongo-connector试一下

  • 相关阅读:
    Problem C: 爬楼梯
    Problem E: 倒水(Water)
    Problem H: tmk买礼物
    HDU 1078 FatMouse and Cheese
    POJ 3186 Treats for the Cows
    POJ 1661 Help Jimmy
    POJ 1458 Common Subsequence
    2018-软工机试-D-定西
    2018-软工机试-F-庙会
    2018-软工机试-C-和你在一起
  • 原文地址:https://www.cnblogs.com/zjdeblog/p/11183865.html
Copyright © 2020-2023  润新知