• 使用logstash同步MongoDB数据到es


    input{
      mongodb{
            codec => "json"
            uri => 'mongodb://127.0.0.1:27017/kuaibao'
            placeholder_db_dir => '/usr/local/etc/logstash-5.6.0/dbdir'
            placeholder_db_name =>'user.db'
            collection => 'user'
            generateId => 'true'
            parse_method => "simple"
        }
    }
    
    filter{
      mutate{remove_field => ["_id"]}
    }
    
    output{
     elasticsearch{
      hosts => ["http://127.0.0.1:9200"]
      index => "ordertrance"
      manage_template=>true
      document_type=>"user"
    }
    stdout {
            codec => json_lines
        }
    }
    

      

    配置如上图,遇到一个坑,卡了我两天,我去。。。。

    刚开始我的placeholder_db_dir是配置成了/usr/local/etc/logstash-5.6.0,也就是logstash的根目录,谁成想配置成这样居然不好使,各种百度各种谷歌,明明跟人家的配置都是一样的,我的就是同步不就去es。差点去世,最后鬼使神差的试着修改了一下placeholder_db_dir,居然可以了,吐血。。。

    进行到最后一步,MongoDB自定义主键无法同步,报错MongoDB Input threw an exception, restarting {:exception=>#<BSON::ObjectId::Invalid: 'zj11111111111111111111' is an invalid ObjectId.>}

    百度谷歌无果,准备使用mongo-connector试一下

  • 相关阅读:
    HTTP客户端识别与Cookie机制
    javascript模式之模块模式
    js类式继承模式学习心得
    关于html自闭合标签要不要加空格和斜杠的问题?
    分享两件有趣的事情
    PS Web切图界面设置
    这是什么
    关于前后端分离我的理解
    模块化方案esl以及amd的依赖方式
    node 内存管理相关
  • 原文地址:https://www.cnblogs.com/zjdeblog/p/11183865.html
Copyright © 2020-2023  润新知