https://kafka.apache.org/quickstart#quickstart_send
kafka是一个消息管理系统,这个系统中存放的一些本地的日志,这个系统很适合用来作为flink的数据源,为处理日志提供一个统一的高吞吐、低延迟的平台,是一个互联网分布式框架的大规模发布订阅框架。
kafka也是一个独立
这些数据被索引,并连同时间戳存储在一起,kafka的高效的流处理,可以和spark、hbase、storm系统集成、生产者api、消费者api、stream api,connector api,可以传递大规模的流式数据,自带容错功能,已经取代了一些传统的消息系统。
kafka的术语主要包括Topic,Record和Broker。Topic主要是由Record组成,
所以生产者的日志,主要是传入到这些kafka之中,
https://kafka.apache.org/quickstart#quickstart_send
消息队列中是会有,logstach提供实时的信息,
下面这篇文章中提到:消息队里的存在,让生产者和消费者的负载解耦,消费者按照自己的能力去消费数据,消费者可以自己决定要读取的数据量,
https://www.cnblogs.com/xing901022/p/5738485.html
https://www.cnblogs.com/xing901022/p/5738485.html
中有对接kafka的案例,系统组件完全