Linux安装 spark 教程详解
链接: https://pan.baidu.com/s/1Brm6XqaqYQnXQwOd8mUt7A?链接: https://pan.baidu.com/s/1ua01OvTYjFQyG82AG1g1yg?scala 的安装比较简单,spark 的运行环境需要 scala。添加配置,这里根据自己的
RabbitMQ快速入手(docker版)
ps.RMQ比较其他MQ产品更可靠,最快的是(卡夫卡)一般依靠多线程,java代码异步,RabitMQ同步。
关于RabbitMQ如何增加用户名,设置权限
注:也可以通过安装好mq之后,在可视化界面(localhost:15672)登录此页面,在admin那一栏找到你创建的用户名设置。1.安装erl和rabbitmq;这些都可以在网上找到,安装完成之后,配置成服务,将erl和mq配置到环境变量中去。2.4使用rabbitmqctl list_users
RabbitMQ运行机制和通讯过程介绍
本文从RabbitMQ的优势、运行机制、通讯过程等方面进行一些研究成果介绍
保障效率与可用,分析Kafka的消费者组与Rebalance机制
我们上一期从可靠性分析了消息可靠性方面来分析Kafka的机制与原理,知晓了Kafka为了保障消息不丢失、不重复,所作出的种种设计。今天我们来讲关于Kafka在消费端所作出的一些机制与原理
RabbitMQ使用哪些端口?
端口4369: Erlang使用PORT Mapper Daemon (epmd)解析集群中的节点名称。节点必须能够相互访问,端口映射器守护进程才能运行群集。set _dist_listen_min/max防火墙设置的端口35197必须允许此范围内的通信在群集节点之间传递。设置在下面,我假设是需要的
Hadoop中重新格式化NameNode的操作
有时候,我们需要重新格式化NameNode,这意味着清除现有的文件系统命名空间和元数据,并创建一个全新的NameNode实例。此外,重新格式化NameNode后,您可能还需要重新配置和恢复您的Hadoop集群的其他组件和作业。完成上述步骤后,您的Hadoop集群的NameNode将被重新格式化,并且
分布式 - 消息队列Kafka:Kafka分区常见问题总结
如果某个 Broker 上的领导者分区数量超过了平均值的 10%,则该 Broker 将不再接受新的领导者分区,直到其他 Broker 上的领导者分区数量增加,使得整个集群的领导者分区数量平衡。比如很多公司使用 Kafka 收集应用服务器的日志数据,这种数据都是很多的,特别是对于那种大批量机器组成的
清空所有队列和消息的RabbitMQ操作指南
有时候,我们可能需要清空RabbitMQ中的所有队列和消息,以便重新开始或进行测试。本文将介绍如何使用RabbitMQ的管理插件和AMQP协议来清空所有队列和消息。通过以上步骤,您可以使用RabbitMQ的管理插件和AMQP协议轻松地清空所有队列和消息。在RabbitMQ管理界面的"Queues"页
Kafka常用命令
LAG: LOG-END-OFFSET减去CURRENT-OFFSET的值,表示积压量。--to-latest: 设置到最新处,也就是主题分区HW的位置。--to-earliest: 设置到最早位移处,也就是0。--shift-by NUM: 基于当前位移向前回退多少。--to-offset NUM
RabbitMQ的5种模式——再探RabbitMQ的模式,简单、工作,发布订阅(广播),路由、主题 & 页面分析
本篇博客结合场景来阐述RabbitMQ的几种模式,描述了不同模式的应用场景,并给出相应的代码。
Centos7系统下搭建Hadoop 3.3.6
Centos7系统下搭建Hadoop 3.3.6(包括jdk的安装)
zookeeper未授权漏洞复现及处理
不知道你有没有注意,zk服务端启动后,默认会启动这几个具有world和cdrwa权限的znode,“/” "/zookeeper" "/zookeeper/config"和"/zookeeper/quota"(根据zookeeper的版本不同可能存在不同,并且这几个节点虽然具有world和cdrwa
minio分布式文件存储
基本介绍什么是MinIOMinIO 是一款基于 Go 语言的高性能、可扩展、云原生支持、操作简单、开源的分布式对象存储产品。基于 Apache License v2.0 开源协议,虽然轻量,却拥有着不错的性能。它兼容亚马逊S3云存储服务接口。可以很简单的和其他应用结合使用,例如 NodeJS、Red
分布式数据库Apache Doris简易体验
分布式数据库Apache Doris简易体验
大数据技术之Hadoop:HDFS集群安装篇(三)
此为个人学习笔记,包含个人归纳总结以及结合了对网络资源的整理,初衷是为了自己复习巩固。如果能帮到各位是我的荣幸!该总结参考了黑马教程,感兴趣的也可以去观看相关视频。
Kafka 监听器详解
是一款 Kafka GUI 管理工具——管理Broker,Topic,Group、查看消费详情、监控服务器状态、支持多种消息格式。
RabbitMQ中的手动应答和自动应答
当使用RabbitMQ来处理消息时,消息确认是一个重要的概念。RabbitMQ提供了两种不同的消息确认方式:自动应答(Automatic Acknowledgment)和手动应答(Manual Acknowledgment)。这两种方式适用于不同的应用场景,本文将通过Java代码示例来演示它们的区别
分布式事务 —— SpringCloud Alibaba Seata
传统的单体应用中,业务操作使用同一条连接操作不同的数据表,一旦出现异常就可以整体回滚。随着公司的快速发展、业务需求的变化,单体应用被拆分成微服务应用,原来的单体应用被拆分成多个独立的微服务,分别使用独立的数据源,业务操作需要调用三个服务来完成。此时每个服务内部的数据一致性由本地事务来保证,但是全局的
SE-MoE:可拓展分布式MoE训练及推理框架(百度)
百度团队提出了一个新的混合专家(MoE)模型的训练和推理框架:SE-MoE。文章解决了MoE模型在计算、通信和存储方面的挑战和局限性。