flink 实时数仓构建与开发[记录一些坑]
flink 实时数仓构建与开发
springboot多kafka配置
【代码】springboot多kafka配置。
【运维笔记】kafka跨域通信代理
网络跨域情境下,kafka集群通过nginx代理互访
Kafka可视化管理工具kafka-manager部署安装和使用
Kafka可视化管理工具kafka-manager部署安装和使用
【kafka】记一次kafka磁盘空间爆满问题处理
解决kafka 的__consumer_offsets 磁盘空间占用过多问题
kafka简单介绍
kafka是一个分布式的,支持数据分区,多副本,基于zookeeper协调的分布式消息系统。上个文章介绍了rabbitmq,他和kafaka的最大区别就是kafak是分布式的,并发处理能力强大。broker:消息中间处理节点,一个kafka节点就是一个broker,可以组成集群produce:生产者
kafka基础选择题
kafka基础选择题
Kafka单机版部署说细教程
因为项目中要使用KAFKA,自己搭建一个单机版,作测试服务器使用,已经过测试,可以使得,分享级需要的朋友。
springboot:整合Kafka
springboot:整合Kafka
[springboot配置Kafka] springboot配置多个kafka,包含账号密码
springboot 配置多个kafka
flink开发常见问题 —— flink-kafka 依赖版本冲突问题
flink kafka 连接配置项目总结
k8s kafka部署实战
使用 k8s 提供的命令行工具 kubectl 创建 Kafka Service,将 Kafka 集群暴露在 k8s 集群外部。使用 Kafka 提供的命令行工具来测试 Kafka部署后,可以使用 Kafka 提供的命令行工具来测试 Kafka 是否正常工作。这个文件定义了一个 Service,将
Kafka最基础使用
这样可以明显减少系统资源的浪费,例如:之前consumer0、consumer1之前正在消费某几个分区,但由于rebalance发生,导致consumer0、consumer1需要重新消费之前正在处理的分区,导致不必要的系统开销。但是低级API,比较复杂,需要执行控制offset,连接到哪个分区,并
Kafka系列之消息重新消费
Kafka消息重新消费;通过kafka-consumer-groups.sh脚本修改offset;通过新增group
项目Es、kafka、mysql容量评估方案和服务器资源预估方案
正确的思想更具大厂经验建议(空间换技术)也就是机器多换技术简单(别把技术玩的太极限,亏钱的时候剩下那点就是九牛一毛,所以建议靠谱技术加横向扩展机器为最稳定方案)实际空间 = 源数据 × (1 + 副本数量) × (1 + 数据膨胀) / (1 - 内部任务开销) / (1 - 操作系统预留)存储容量
kafka消费组查看和删除
生产环境监控发现kafka存在大量消费组 查看消费组信息:./kafka-consumer-groups.sh --bootstrap-server ip:port --list查看特定消费组信息:./kafka-consumer-groups.sh --bootstrap-server ip:po
【Jeepay】02-Kafka实现延迟消息与广播模式详细设计
在专题的上一章中,重点讲解了项目的改造背景、难点分析。之所以会如此的追本溯源的去记录,第一是因为:一个可以落地的解决方案的敲定,是综合项目各方面的原因得到的。没有完美的架构,只有刚好的架构;没有满足一切的架构,只有满足目标的架构。第二是因为想要通过这样的记录,让后面的同学能快速的理解:实践中并不需要
kafka如何在运行中增加分区并重新分配副本
kafka如何在运行中增加分区并重新分配副本
Spark Streaming + Kafka构建实时数据流
因为在这个例子中,数据是实时流式处理的,而不是一次处理一个批次的静态数据。流式数据的实时特性意味着数据不断更新,因此很难保持缓存的数据与最新的数据的一致性。所以在流处理中,更有效的性能优化方法是使用更高效的算法,并通过对流数据的精细控制来调整计算中的批大小和触发机制,而不是简单地使用缓存方法。这个是
linux部署单机kafka(使用kafka自带zookeeper)
本文使用kafka单节点安装及配置,并使用kafka自带的zookeeper。一般kafka需要起三个kafka构成集群,可以连单独的zookeeper,本文不涉及。