• kafka入门


    1.2入门
    1.2a.kafka版本 kafka_2.11-0.8.2.2
    1.2.b配置文件中需要注意的地方,broker.id=0这个在每台机器上是不一样的,需要scp复制之后手动去修改
    broker.id=0
    
    
    # Hostname the broker will bind to. If not set, the server will bind to all interfaces
    host.name=mini1
    
    log.dirs=/home/hadoop/apps/kafka/tmp/kafka-logs
    
    num.partitions=2
    # root directory for all kafka znodes.
    zookeeper.connect=mini1:2181,mini2:2181,mini3:2181
    kafka-2.10-0.10.0.1
    配置与0.8版本的区别
    新版本:listeners=PLAINTEXT://192.168.133.133:19092
    log.dirs=/opt/kafka/kafkalogs/ 
    10.0.1中不用配置host.name

    scp 分发到其他机器上,

    依次修改各服务器上配置文件的的broker.id,分别是0,1,2不得重复。

    1.2.c启动:

    依次在各节点上启动kafka
    bin/kafka-server-start.sh config/server.properties

    注意路径,如果执行出错,按照上面给的路径执行,因为在配置文件中可能用到了相对路径Kafka常用操作命令

     查看当前服务器中的所有topic
    bin/kafka-topics.sh --list --zookeeper  mini1:2181
     创建topic
    ./kafka-topics.sh --create --zookeeper mini1:2181 --replication-factor 1 --partitions 3 --topic first
    console 中测试
     bin/kafka-console-producer.sh --broker-list mini1:9092 --topic qqww
    -- 新版kafka命令
    bin/kafka-console-consumer.sh --bootstrap-server mini1:9092 --zookeeper mini1:2181   --from-beginning --topic qqww

    删除topic
    sh bin
    /kafka-topics.sh --delete --zookeeper mini1:2181 --topic test 需要server.properties中设置delete.topic.enable=true否则只是标记删除或者直接重启。 通过shell命令发送消息 kafka-console-producer.sh --broker-list kafka01:9092 --topic test11 通过shell消费消息 sh bin/kafka-console-consumer.sh --zookeeper mini1:2181 --from-beginning --topic test1 查看消费位置 sh kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --zookeeper mini1:2181 --group testGroup 查看某个Topic的详情 sh kafka-topics.sh --topic test --describe --zookeeper mini1:2181

     查看所有消费组

     bin/kafka-consumer-groups.sh --zookeeper mini1:2181  --list

    1.学习一个新东西首先是了解,其次是入门.
    1.1了解可以看官网,翻译,博客,
    1.2入门,可以从下面的步骤着手,
    a.下载安装包安装,记录安装方法
    b.配置文件,常用配置熟悉
    c.启动方式
    d.wordCount,或者hellokitty的demo,在hadoop中,storm,都都有wordcount的例子,在他们的jar包中就有反编译之后就是一个demo
  • 相关阅读:
    npm命令
    前端单元测试工具karma和jest
    加解密学习之--模运算与经典密码学
    数据结构之-翻转二叉树
    数据结构之-链表倒转
    转载:MQ
    分布式ID生成器 待整理
    软件开发中的负载均衡
    制作软件过程中所产出的文档(请补充)
    多线程的创建
  • 原文地址:https://www.cnblogs.com/rocky-AGE-24/p/7155719.html
Copyright © 2020-2023  润新知