大数据集群环境搭建
#linux集群环境搭建 集群、分布式---->多台机器 虚拟机克隆 服务器基础环境准备 1、防火墙关闭 2、主机名hostname修改 3、hosts主机名 IP映射 4、ssh免密登录 5、扩展:跳板机、堡垒机 6、集群时间同步 7、scp 跨集群复制文件#Linux软件安装 rp
Kafka的安装和使用(Windows中)
2.3.1.2在小黑窗3中输入.\bin\windows\kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic topic_test001然后回车。在黑窗口
zk常用的命令
zk的命令
分布式和大数据有什么区别?
本文详解了分布式和大数据之间的区别
CentOS 7 上hadoop伪分布式搭建全流程完整教程
centos7 上hadoop搭建详细步骤
kafka时间戳的详解及使用
Kafka从0.10.0.0版本起,在消息内新增加了个timestamp字段,在Kafka 0.10.1.0以前(不包含0.10.1.0),对于一个Topic而言,其Log Segment是由一个.log文档和一个.index文档组合而成,分别用来存储具体的消息数据和对应的偏移量。
大数据导论实验一:搭建Hadoop集群
搭建Hadoop集群,要求至少是3个节点的真分布式集群系统,包含1个NameNode,两个DataNode。
python程序使用RabbitMQ
python操作RabbitMQ示例
内网穿透实现在外远程连接RabbitMQ服务
RabbitMQ是一个在 AMQP(高级消息队列协议)基础上完成的,可复用的企业消息系统,是当前最主流的消息中间件之一。由erlang开发的AMQP(Advanced Message Queue 高级消息队列协议 )的开源实现,由于erlang 语言的高并发特性,性能较好,本质是个队列,FIFO 先
Kafka 动态配置
动态配置 : 修改参数后,无需重启 Broker 就能生效。
Kafka版本滚动升级(不停机)
升级Kafka集群的版本其实很简单,核心步骤只需要4步,但是我们需要在升级的过程中确保每一步操作都不会“打扰”到producer和consumer的正常运转。注意:替换新版broker后,注意查看新版broker是否已经注册到zookeeper,所在机器上的的副本是否已经可用。注意:启动3.4.0的
RabbitMQ的几种消息确认机制详细介绍
本篇文章将详细介绍RabbitMQ的几种消息确认机制,面试必问的地方,感兴趣的大佬可以看下。
Docker版RabbitMQ安装延迟队列插件及延迟队列项目应用实战
在项目中经常有延迟业务处理的背景,此时可以借助于Rabbitmq的延迟队列进行实现,但Rabbitmq本身并不支持延迟队列,但可以通过安装插件的方式实现延迟队列。
如何通过SparkUI 查看SparkSql作业
执行计划中的每个蓝色方块都有非常多的信息可以查看,如肉眼直接可以看到的Scan orc table_name ,number of output rows: 说明扫描了哪个表,这个表有多少行,我们把鼠标放在对应的信息上也会显示详细的信息,扫描的表的hdfs路径,分区,表存在的字段,等等,如下图。注:
kafka查询offset&生产者offset计算&消费offset计算
对kafka做监控,需要获取到kafka接收到消息的offset和被消费者消费掉消息的offset,编写接口将数值交给prometheus,直接观察判断kafka的消费性能如何。
十二、RabbitMQ 报错汇总
说明gblic 版本太低。我们可以查看当前机器的gblic 版本。当前最高版本2.17,需要*.所以需要升级glibc。
Kafka入门(七)
下面聊聊Kafka的配置参数,包括生产者的配置参数、Broker的配置参数、消费者的配置参数。
Kafka系列:查看Topic列表、消息消费情况、模拟生产者消费者
这条命令其实并不执行删除动作,仅仅是在zookeeper上标记该topic要被删除而已,同时也提醒用户一定要提前打开delete.topic.enable开关,否则删除动作是不会执行的。a)在server.properties中设置delete.topic.enable参数为ture。3.执行删除命
探究:kafka生产者/消费者与多线程安全
Kafka生产者是线程安全的,可以在多个线程中共享一个Kafka生产者实例。这是因为Kafka生产者实例内部使用了一些同步机制来保证线程安全,例如使用了线程安全的队列来缓存消息,使用了同步锁来保护共享资源的访问等。同时,Kafka生产者的send()方法是非阻塞的,可以在多个线程中并发调用,不会阻塞