• kafka server.properties配置文件详解


    0.9.0

    ############################# Server Basics #############################

    # 节点的ID,必须与其它节点不同
    broker.id=0

    ############################# Socket Server Settings #############################

    listeners=PLAINTEXT://:9092

    # 监听端口
    #port=9092

    # 节点需要绑定的主机名称。如果没有设置,服务器会绑定到所有接口
    #host.name=localhost

    # 节点的主机名会通知给生产者和消费者。如果没有设置,它将会使用"host.name"的值(前提是设置了host.name)。
    # 否则他会使用java.net.InetAddress.getCanonicalHostName()的返回值
    #advertised.host.name=<hostname routable by clients>

    # 这个端口将暴露给Zookeeper以供客户端来使用。如果没有设置,将会暴露节点绑定的端口
    #advertised.port=<port accessible by clients>

    # 接受网络请求的线程数
    num.network.threads=3

    # 进行磁盘IO的线程数
    num.io.threads=8

    # 套接字服务器使用的发送缓冲区大小
    socket.send.buffer.bytes=102400

    # 套接字服务器使用的接收缓冲区大小
    socket.receive.buffer.bytes=102400

    # 单个请求最大能接收的数据量
    socket.request.max.bytes=104857600


    ############################# Log Basics #############################

    # 一个逗号分隔的目录列表,用来存储日志文件
    log.dirs=/tmp/kafka-logs

    # 每个主题的日志分区的默认数量。更多的分区允许更大的并行操作,但是它会导致节点产生更多的文件
    num.partitions=1

    # 每个数据目录中的线程数,用于在启动时日志恢复,并在关闭时刷新。
    num.recovery.threads.per.data.dir=1

    ############################# Log Flush Policy #############################

    # 消息直接被写入文件系统,但是默认情况下我们仅仅调用fsync()以延迟的同步系统缓存
    # 这些有一些重要的权衡
    # 1. 持久性:如果不使用复制,未刷新的数据可能会丢失。
    # 2. 延迟:非常大的刷新间隔可能会在刷新时导致延迟,因为将会有大量数据刷新。
    # 3. 吞吐量:刷新通常是最昂贵的操作,而一个小的刷新间隔可能会导致过多的搜索。
    # 下面的设置允许你去配置刷新策略,每隔一段时间刷新或者一次N个消息(或者两个都配置)。这可以在全局范围内完成,并在每个主题的基础上重写。

    # 在强制刷新数据到磁盘执勤啊允许接收消息的数量
    #log.flush.interval.messages=10000

    # 在强制刷新之前,消息可以在日志中停留的最长时间
    #log.flush.interval.ms=1000

    ############################# Log Retention Policy #############################

    # 以下的配置控制了日志段的处理。策略可以配置为每隔一段时间删除片段或者到达一定大小之后。
    # 当满足这些条件时,将会删除一个片段。删除总是发生在日志的末尾。

    # 一个日志的最小存活时间,可以被删除
    log.retention.hours=168

    # 一个基于大小的日志保留策略。段将被从日志中删除只要剩下的部分段不低于log.retention.bytes。
    #log.retention.bytes=1073741824

    # 每一个日志段大小的最大值。当到达这个大小时,会生成一个新的片段。
    log.segment.bytes=1073741824

    # 检查日志段的时间间隔,看是否可以根据保留策略删除它们
    log.retention.check.interval.ms=300000

    ############################# Zookeeper #############################

    # Zookeeper连接字符串
    # 这是一个以逗号为分割的部分,每一个都匹配一个Zookeeper
    # 您还可以将一个可选的chroot字符串附加到url,以指定所有kafka znode的根目录。
    zookeeper.connect=localhost:2181

    # 连接到Zookeeper的超时时间
    zookeeper.connection.timeout.ms=6000

    0.10.1

    ############################# Server Basics #############################

    # 节点的ID,必须与其它节点不同
    broker.id=0

    # 选择启用删除主题功能,默认false
    #delete.topic.enable=true

    ############################# Socket Server Settings #############################

    # 套接字服务器坚挺的地址。如果没有配置,就使用java.net.InetAddress.getCanonicalHostName()的返回值
    # FORMAT:格式:
    # listeners = security_protocol://host_name:port
    # EXAMPLE:例子:
    # listeners = PLAINTEXT://your.host.name:9092
    #listeners=PLAINTEXT://:9092

    # 节点的主机名会通知给生产者和消费者。如果没有设置,如果配置了"listeners"就使用"listeners"的值。
    # 否则就使用java.net.InetAddress.getCanonicalHostName()的返回值
    #advertised.listeners=PLAINTEXT://your.host.name:9092

    # 接受网络请求的线程数
    num.network.threads=3

    # 进行磁盘IO的线程数
    num.io.threads=8

    # 套接字服务器使用的发送缓冲区大小
    socket.send.buffer.bytes=102400

    # 套接字服务器使用的接收缓冲区大小
    socket.receive.buffer.bytes=102400

    # 单个请求最大能接收的数据量
    socket.request.max.bytes=104857600


    ############################# Log Basics #############################

    # 一个逗号分隔的目录列表,用来存储日志文件
    log.dirs=/tmp/kafka-logs

    # 每个主题的日志分区的默认数量。更多的分区允许更大的并行操作,但是它会导致节点产生更多的文件
    num.partitions=1

    # 每个数据目录中的线程数,用于在启动时日志恢复,并在关闭时刷新。
    num.recovery.threads.per.data.dir=1

    ############################# Log Flush Policy #############################

    # 消息直接被写入文件系统,但是默认情况下我们仅仅调用fsync()以延迟的同步系统缓存
    # 这些有一些重要的权衡
    # 1. 持久性:如果不使用复制,未刷新的数据可能会丢失。
    # 2. 延迟:非常大的刷新间隔可能会在刷新时导致延迟,因为将会有大量数据刷新。
    # 3. 吞吐量:刷新通常是最昂贵的操作,而一个小的刷新间隔可能会导致过多的搜索。
    # 下面的设置允许你去配置刷新策略,每隔一段时间刷新或者一次N个消息(或者两个都配置)。这可以在全局范围内完成,并在每个主题的基础上重写。

    # 在强制刷新数据到磁盘之前允许接收消息的数量
    #log.flush.interval.messages=10000

    # 在强制刷新之前,消息可以在日志中停留的最长时间
    #log.flush.interval.ms=1000

    ############################# Log Retention Policy #############################

    # 以下的配置控制了日志段的处理。策略可以配置为每隔一段时间删除片段或者到达一定大小之后。
    # 当满足这些条件时,将会删除一个片段。删除总是发生在日志的末尾。

    # 一个日志的最小存活时间,可以被删除
    log.retention.hours=168

    # 一个基于大小的日志保留策略。段将被从日志中删除只要剩下的部分段不低于log.retention.bytes。
    #log.retention.bytes=1073741824

    # 每一个日志段大小的最大值。当到达这个大小时,会生成一个新的片段。
    log.segment.bytes=1073741824

    # 检查日志段的时间间隔,看是否可以根据保留策略删除它们
    log.retention.check.interval.ms=300000

    ############################# Zookeeper #############################

    # Zookeeper连接字符串
    zookeeper.connect=localhost:2181

    # 连接到Zookeeper的超时时间
    zookeeper.connection.timeout.ms=6000

    0.11.0

    ############################# Server Basics #############################

    # 节点的ID,必须与其它节点不同
    broker.id=0

    # 选择启用删除主题功能,默认false
    #delete.topic.enable=true

    ############################# Socket Server Settings #############################

    # 套接字服务器坚挺的地址。如果没有配置,就使用java.net.InetAddress.getCanonicalHostName()的返回值
    # FORMAT:
    # listeners = listener_name://host_name:port
    # EXAMPLE:
    # listeners = PLAINTEXT://your.host.name:9092
    #listeners=PLAINTEXT://:9092

    # 节点的主机名会通知给生产者和消费者。如果没有设置,如果配置了"listeners"就使用"listeners"的值。
    # 否则就使用java.net.InetAddress.getCanonicalHostName()的返回值
    #advertised.listeners=PLAINTEXT://your.host.name:9092

    # 将侦听器的名称映射到安全协议,默认情况下它们是相同的。有关详细信息,请参阅配置文档
    #listener.security.protocol.map=PLAINTEXT:PLAINTEXT,SSL:SSL,SASL_PLAINTEXT:SASL_PLAINTEXT,SASL_SSL:SASL_SSL

    # 服务器用来接受请求或者发送响应的线程数
    num.network.threads=3

    # 服务器用来处理请求的线程数,可能包括磁盘IO
    num.io.threads=8

    # 套接字服务器使用的发送缓冲区大小
    socket.send.buffer.bytes=102400

    # 套接字服务器使用的接收缓冲区大小
    socket.receive.buffer.bytes=102400

    # 单个请求最大能接收的数据量
    socket.request.max.bytes=104857600


    ############################# Log Basics #############################

    # 一个逗号分隔的目录列表,用来存储日志文件
    log.dirs=/tmp/kafka-logs

    # 每个主题的日志分区的默认数量。更多的分区允许更大的并行操作,但是它会导致节点产生更多的文件
    num.partitions=1

    # 每个数据目录中的线程数,用于在启动时日志恢复,并在关闭时刷新。
    num.recovery.threads.per.data.dir=1

    ############################# Internal Topic Settings #############################
    # 内部主题设置
    # 对于除了开发测试之外的其他任何东西,group元数据内部主题的复制因子“__consumer_offsets”和“__transaction_state”,建议值大于1,以确保可用性(如3)。
    offsets.topic.replication.factor=1
    transaction.state.log.replication.factor=1
    transaction.state.log.min.isr=1

    ############################# Log Flush Policy #############################

    # 在强制刷新数据到磁盘之前允许接收消息的数量
    #log.flush.interval.messages=10000

    # 在强制刷新之前,消息可以在日志中停留的最长时间
    #log.flush.interval.ms=1000

    ############################# Log Retention Policy #############################

    # 以下的配置控制了日志段的处理。策略可以配置为每隔一段时间删除片段或者到达一定大小之后。
    # 当满足这些条件时,将会删除一个片段。删除总是发生在日志的末尾。

    # 一个日志的最小存活时间,可以被删除
    log.retention.hours=168

    # 一个基于大小的日志保留策略。段将被从日志中删除只要剩下的部分段不低于log.retention.bytes。
    #log.retention.bytes=1073741824

    # 每一个日志段大小的最大值。当到达这个大小时,会生成一个新的片段。
    log.segment.bytes=1073741824

    # 检查日志段的时间间隔,看是否可以根据保留策略删除它们
    log.retention.check.interval.ms=300000

    ############################# Zookeeper #############################

    zookeeper.connect=localhost:2181

    # 连接到Zookeeper的超时时间
    zookeeper.connection.timeout.ms=6000


    ############################# Group Coordinator Settings #############################

    group.initial.rebalance.delay.ms=0

    总结

      #port=9092

      #host.name=localhost

      #advertised.host.name=<hostname routable by clients>

      #advertised.port=<port accessible by clients>

    被改为

      #listeners=PLAINTEXT://:9092
    
      #advertised.listeners=PLAINTEXT://your.host.name:9092
  • 相关阅读:
    软件开发术语
    网络规划与设计
    MPLS LDP协议
    MPLS 基础
    CallAfter
    LongRunningTasks
    Non-blocking GUI
    WorkingWithThreads
    Python: Running Ping, Traceroute and More
    wxPython and Threads
  • 原文地址:https://www.cnblogs.com/ITMan-blogs/p/9062033.html
Copyright © 2020-2023  润新知