Docker安装RabbitMQ
Docker安装RabbitMQ
ZooKeeper知识点
ZooKeeper 面向分布式应用的分布式协调服务,主要功能:统一配置管理、统一命名服务、分布式锁、集群管理
Spark SQL 结构化数据文件处理
Spark SQL是Spark用来处理结构化数据的一个模块,它提供了一个叫作DataFrame的编程模型(带有Schema信息的RDD)。SparkSQL作为分布式SQL查询引擎,让用户可以通过SQL、DataFrameAPI和DatasetAPI三种方法实现对结构化数据的处理。
【大数据】搭建Hadoop集群(附一键部署脚本)
汝之观览,吾之幸也!本文主要讲解Hadoop运行环境的搭建(三台虚拟机),一键脚本部署,全自动化,不再需要按照文档一个一个进行配置,脚本执行后就可登录hadoop集群。
高薪程序员&面试题精讲系列139之你熟悉分布式事务吗--上篇?有哪些分布式事务实现方案?
二阶段提交(2PC,Two-phase Commit)是对XA协议的标准实现,它将分布式事务的提交拆分成了2个阶段:prepare和commit/rollback。在2PC中,事务协调者(事务管理器):事务的发起者;事务参与者(资源管理器):事务的执行者。阶段一为准备阶段,由事务的协调者发起询问参与
Elasticsearch分布式搜索引擎的介绍与安装
Elasticsearch分布式搜索引擎的介绍与安装
Multi Paxos的落地--Raft
Multi-Paxos落地实现——Raft
RDD的分区、依赖关系、机制
RDD的分区原则是分区的个数尽量等于集群中的CPU核心(Core)数目。各种模式下的默认分区数目如下(1) Local模式:默认为本地机器的CPU数目,若设置了local[N].则默认为N.(2) Standalone或者Yarn模式:在“集群中所有CPU核数总和"和“2”这两者中取较大值作为默认值
基于kafka,zookeeper实现的日志收集平台搭建
l项目描述:分别使用3台Linux服务器来作为nginx集群搭建前端web服务,kafka集群和zookeeper集群,2台Linux机器做反向代理集群。
RabbitMQ
RabbitMQ简介,RabbitMQ模型架构 ,RabbitMQ发送消息的顺序,RabbitMQ消息丢失,判断时否成功发送消息。交换机分类,延迟队列和 死信队列
kafka 使用thrift序列化对象
而解决这个问题的办法就是采用第三方的支持跨语言的序列化/反序列化框架,所谓的跨语言, 意思就是说,不管你是什么语言生成的对象,那你存入kafka的时候 用我的序列化协议,我帮你序列化, 当你从kafka中获取数据的时候, 也请用我来反序列化。kafka存储的实际上不是python对象也不是ja
抖音 iOS 推荐 Feed 容器化总结
动手点关注干货不迷路????背景抖音 Feed 容器在推荐、关注、同城、朋友等多个场景中使用,每个场景都有自身的逻辑和业务,最终汇总在 FeedViewController 中,随着业务的迭代,代码越来越臃肿,面临如下的问题:容器类(FeedViewController) 有 10000+行,还有十
Mysql的分布式事务原理理解
本文主要讲解:Mysql的分布式事务原理及中间会遇见的问题。
H(hadoop&code&notebook).数据压缩
表-3优缺点压缩算法优点缺点gzip压缩率比较高不支持Split;压缩/解压速度一般bzip2压缩率高;支持Split压缩/解压速度慢LZO压缩/解压速度比较快;支持Split压缩率一般;想支持切片,需要额外创建索引Snappy压缩和解压缩速度快不支持Split;压缩率一般。......
Hadoop完全分布式部署
host映射:这里是把三个Linux的ip地址保存到三个虚拟机去,相当于我们自己在手机里面存别人的电话号码 一样的道理,这样相互之间就知道对应ip地址的机器是哪一台。所以这个操作也是要在三台虚拟机都要 进行的。给ip地址起名字,几个机器需要互相连通,这样在连接几台机器的时候只需要使用机器名就行,不需
Kafka在美团数据平台的实践
总第526篇2022年 第043篇Kafka在美团数据平台承担着统一的数据缓存和分发的角色,随着数据量的增长,集群规模的扩大,Kafka面临的挑战也愈发严峻。本文分享了美团Kafka面临的实际挑战,以及美团针对性的一些优化工作,希望能给从事相关开发工作的同学带来帮助或启发。1. 现状和挑战1.1 现
大数据ClickHouse(二):多种安装方式
https在官网中可以看到ClickHouse可以基于多种方式安装,rpm安装、tgz安装包安装、docker镜像安装、源码编译安装等。这里我们使用rpm安装包安装。如果服务器不支持SSE4.2指令集,则不能下载预编译安装包,需要通过源码编译特定版本进行安装。一、rpm安装包下载https这里需要在
RabbitMQ 的安装和配置
rabbitmq安装和配置
时间如水,东流而逝 !Python中的异步,定时任务(Celery,Apscheduler)
APScheduler和Celery---项目实战使用方法介绍