Stella981 Stella981
3年前
Pulsar与Kafka消费模型对比
kafkakafka属于Stream的消费模型,为了支持多partition的消费关系,引入了consumergroup的概念,同时支持在消费端动态的reblance操作,当多个Consumer订阅了同一个Topic时,会根据分区策略进行消费者订阅分区的重分配。只要consumergroup与
Stella981 Stella981
3年前
Kafka 2.1.0压缩算法性能测试
ApacheKafka2.1.0正式支持ZStandard——ZStandard是Facebook开源的压缩算法,旨在提供超高的压缩比(compressionratio),具体细节参见https://facebook.github.io/zstd/。本文对Kafka支持的这几种压缩算法(GZIP、Snappy、LZ4、ZStandard)做了一下基
Stella981 Stella981
3年前
Setting Up and Running Apache Kafka on Windows
IntroductionThisarticleisallaboutconfiguringandstartinganApacheKafkaserveronaWindowsOS.ThisguidewillalsoprovideinstructionstosetupJa
Wesley13 Wesley13
3年前
ELK+Kafka部署指南 (二)
四、安装logstash安装启动步骤1、解压安装包、修改配置解压安装包:tarzxvflogstash7.0.0.tar.gz进入到解压后的目录:cdlogstash7.0.0进入到config文件夹:cdconfig由于logstash的配置文件在启动的时候指定,编辑创建配置文件:v
Stella981 Stella981
3年前
Kafka Spout Offset存储在Zookeeper
KafkaSpoutOffset存储在Zookeeper,配置中需要单独指定SpoutConfig.zkPort和SpoutConfig.zkServers,否则无法生效。importjava.util.ArrayList;importjava.util.List;importorg.apache.stor
Stella981 Stella981
3年前
Kafka基于topic的分区设计
1.若没有分区,一个topic对应的消息集在分布式集群服务组中,就会分布不均匀,即可能导致某台服务器A记录当前topic的消息集很多,若此topic的消息压力很大的情况下,服务器A就可能导致压力很大,吞吐也容易导致瓶颈。有了分区后,假设一个topic可能分为10个分区,kafka内部会根据一定的算法把10分区尽可能均匀分布到不同的服务器上,比如:A服务
Stella981 Stella981
3年前
Kafka及周边深度了解
  之前介绍了使用官方脚本自动化启动一个Fabric网络,并且所有的证书都是通过官方的命令行工具cryptogen直接生成网络中的所有节点的证书。在开发环境可以这么简单进行,但是生成环境下还是需要我们自定义对网络中的节点的证书进行配置。    所以在本文中,将会详细介绍一个从手动生成证书一直到启动网络的整体步骤。本文只交代整体的搭建步骤。对于Fa
Wesley13 Wesley13
3年前
4.kafka生产者
转: https://www.cnblogs.com/sodawoodsblogs/p/8969513.html(https://www.oschina.net/action/GoToLink?urlhttps%3A%2F%2Fwww.cnblogs.com%2Fsodawoodsblogs%2Fp%2F8969513.html)(1)生产者
Stella981 Stella981
3年前
Kafka.network包源码解读
最近阅读了kafkanetwork包的源码,主要是想了解下kafka底层通信的一些细节,这部分都是用NIO实现的,并且用的是最基本的NIO实现模板,代码阅读起来也比较简单。抛开zookeeper这部分的通信不看,我们就看最基本的producer和consumer之间的基于NIO的通信模块。在network中主要包含以下类:!(http://static
Stella981 Stella981
3年前
Kafka体系架构详细分解
点击上方蓝色字体,选择“设为星标”回复”资源“获取更多资源!(https://oscimg.oschina.net/oscnet/7c60d366ecded4cba7c192a5496a875dda9.jpg)作者:luozhiyun地址:http://suo.im/5uYoJ0!(https://oscimg.