在springboot项目中引入Kafka
最后一步,打开浏览器测试。
RabbitMQ:hello结构
doker-compose up -d 运行。
消息队列kafka及zookeeper机制
zookeeper工作要会!!!!
kafka集成篇
kafka集成篇
Hadoop支持LZO压缩
LZO(Lempel-Ziv-Oberhumer)是一种高效的压缩算法,适用于Hadoop中的数据压缩。Hadoop支持使用LZO算法对数据进行压缩,以减少存储空间占用和数据传输开销。
EFLK日志平台(filebeat-->kafka-->logstash-->es-->kiabana)
ELK平台是一套完整的日志集中处理解决方案,将 ElasticSearch、Logstash 和 Kiabana 三个开源工具配合使用, 完成更强大的用户对日志的查询、排序、统计需求。
Zookeeper概述及部署
Zookeeper是一个开源的分布式的,为分布式框架提供协调服务的Apache项目。Zookeeper的工作机制是一个基于观察者模式设计的分布式服务管理框架,它负责存储和管理大家都关心的数据,然后接受观察者的注册,一旦这些数据的状态发生变化,Zookeeper就将负责通知已经在Zookeeper上注
Spark最后一课
如果是Client模式,则Driver就是本机了,Executor 会直接交互本机,远程访问提交,不能停止,同时所有Executor会交互本机,而本机资源不足,会导致系统和网络崩溃.按照等级进行尝试,从高等级到低等级,降级机制.如何避免多次访问通一个节点?9.Driver调用资源,找到空闲的NM,进
访问 Hive 的元数据存储(MetaStore)的API方式
访问 Hive 的元数据存储(MetaStore)是通过 Hive 的 Thrift API 来实现的。导入 thrift 和 Hive Metastore 的相应模块,创建一个 Thrift 的 transport 对象和一个 Hive Metastore 的 client 对象,并连接到 Hiv
(五)RabbitMQ-进阶 死信队列、延迟队列、防丢失机制
什么是延时队列?延时队列即就是放置在该队列里面的消息是不需要立即消费的,而是等待一段时间之后取出消费但RabbitMQ中并未提供延迟队列功能,我们可以使用死信队列实现延迟队列的效果延迟交换机主要帮我们解决什么问题(1)当我们的业务比较复杂的时候, 需要针对不同的业务消息类型设置不同的过期时间策略,
Kafka_2.13-3.4.0环境的配置
省略...
hadoop-3.3.3完全分布式集群搭建
hadoop-3.3.3完全分布式集群搭建前言环境准备软件版本集群规划一、配置jdk环境变量1. 解压jdk2. 修改/etc/profile文件二、hadoop集群搭建1. 关闭防火墙2. 修改主机名3. 添加ip映射4. 配置免密登录5. 修改hadoop配置文件1. 解压2. 配置hadoop
大数据-玩转数据-Flink RedisSink
可以根据要写入的redis的不同数据类型进行调整。具体版本根据实际情况确定。
kafka--技术文档--基本docker中安装<单机>-linux
阿丹小科普:Kafka在0.11.0.0版本之后不再依赖Zookeeper,而是使用基于Raft协议的Kafka自身的仲裁机制来替代Zookeeper。具体来说,Kafka 2.8.0版本是第一个不需要Zookeeper就可以运行Kafka的版本,这被称为Kafka Raft Metadata mo
头歌2.1 Hadoop 开发环境搭建及HDFS初体验(第2关:配置开发环境 - Hadoop安装与伪分布式集群搭建)
第2关:配置开发环境 - Hadoop安装与伪分布式集群搭建 第3关:HDFS系统初体验
HDFS源码解析
HDFS NameNode、DataNode启动流程、HDFS元数据管理流程、写数据流程源码详解
Python+大数据-知行教育(七)-学生出勤主题看板
Python+大数据-知行教育(七)-学生出勤主题看板
大数据学习之HiveSQL
HiveSQL
RabbitMQ实现数据库与ElasticSearch的数据同步和分享文件过期处理
只是提供思路,代码不是很完整,直接复制运行不了。最后面有完整网盘项目代码。
大数据专业就业方向和考研院校及系统学习路线规划
仔细讲解了大数据专业的就业方向、学习方向、与考研院校的推荐,以及文内附带一万字的大数据专业职位所需知识技能储备详解和系统的学习路线规划和所需时间。