大数据集群环境搭建

#linux集群环境搭建 集群、分布式---->多台机器 虚拟机克隆 服务器基础环境准备 1、防火墙关闭 2、主机名hostname修改 3、hosts主机名 IP映射 4、ssh免密登录 5、扩展:跳板机、堡垒机 6、集群时间同步 7、scp 跨集群复制文件#Linux软件安装 rp

Kafka的安装和使用(Windows中)

2.3.1.2在小黑窗3中输入.\bin\windows\kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic topic_test001然后回车。在黑窗口

zk常用的命令

zk的命令

分布式和大数据有什么区别?

本文详解了分布式和大数据之间的区别

CentOS 7 上hadoop伪分布式搭建全流程完整教程

centos7 上hadoop搭建详细步骤

kafka时间戳的详解及使用

Kafka从0.10.0.0版本起,在消息内新增加了个timestamp字段,在Kafka 0.10.1.0以前(不包含0.10.1.0),对于一个Topic而言,其Log Segment是由一个.log文档和一个.index文档组合而成,分别用来存储具体的消息数据和对应的偏移量。

大数据导论实验一:搭建Hadoop集群

搭建Hadoop集群,要求至少是3个节点的真分布式集群系统,包含1个NameNode,两个DataNode。

python程序使用RabbitMQ

python操作RabbitMQ示例

内网穿透实现在外远程连接RabbitMQ服务

RabbitMQ是一个在 AMQP(高级消息队列协议)基础上完成的,可复用的企业消息系统,是当前最主流的消息中间件之一。由erlang开发的AMQP(Advanced Message Queue 高级消息队列协议 )的开源实现,由于erlang 语言的高并发特性,性能较好,本质是个队列,FIFO 先

Kafka 动态配置

动态配置 : 修改参数后,无需重启 Broker 就能生效。

Kafka版本滚动升级(不停机)

升级Kafka集群的版本其实很简单,核心步骤只需要4步,但是我们需要在升级的过程中确保每一步操作都不会“打扰”到producer和consumer的正常运转。注意:替换新版broker后,注意查看新版broker是否已经注册到zookeeper,所在机器上的的副本是否已经可用。注意:启动3.4.0的

RabbitMQ的几种消息确认机制详细介绍

本篇文章将详细介绍RabbitMQ的几种消息确认机制,面试必问的地方,感兴趣的大佬可以看下。

Docker版RabbitMQ安装延迟队列插件及延迟队列项目应用实战

在项目中经常有延迟业务处理的背景,此时可以借助于Rabbitmq的延迟队列进行实现,但Rabbitmq本身并不支持延迟队列,但可以通过安装插件的方式实现延迟队列。

如何通过SparkUI 查看SparkSql作业

执行计划中的每个蓝色方块都有非常多的信息可以查看,如肉眼直接可以看到的Scan orc table_name ,number of output rows: 说明扫描了哪个表,这个表有多少行,我们把鼠标放在对应的信息上也会显示详细的信息,扫描的表的hdfs路径,分区,表存在的字段,等等,如下图。注:

kafka查询offset&生产者offset计算&消费offset计算

对kafka做监控,需要获取到kafka接收到消息的offset和被消费者消费掉消息的offset,编写接口将数值交给prometheus,直接观察判断kafka的消费性能如何。

十二、RabbitMQ 报错汇总

说明gblic 版本太低。我们可以查看当前机器的gblic 版本。当前最高版本2.17,需要*.所以需要升级glibc。

Kafka入门(七)

下面聊聊Kafka的配置参数,包括生产者的配置参数、Broker的配置参数、消费者的配置参数。

Kafka系列:查看Topic列表、消息消费情况、模拟生产者消费者

这条命令其实并不执行删除动作,仅仅是在zookeeper上标记该topic要被删除而已,同时也提醒用户一定要提前打开delete.topic.enable开关,否则删除动作是不会执行的。a)在server.properties中设置delete.topic.enable参数为ture。3.执行删除命

探究:kafka生产者/消费者与多线程安全

Kafka生产者是线程安全的,可以在多个线程中共享一个Kafka生产者实例。这是因为Kafka生产者实例内部使用了一些同步机制来保证线程安全,例如使用了线程安全的队列来缓存消息,使用了同步锁来保护共享资源的访问等。同时,Kafka生产者的send()方法是非阻塞的,可以在多个线程中并发调用,不会阻塞

登录可以使用的更多功能哦! 登录
作者榜
...
资讯小助手

资讯同步

...
内容小助手

文章同步

...
Deephub

公众号:deephub-imba

...
奕凯

公众号:奕凯的技术栈