荐读 | 《揭秘云计算与大数据》
在这个数字化时代,云计算和大数据技术已经成为推动全球发展的关键引擎,激发了一系列令人兴奋的科技创新,而这些创新正在塑造着我们人类未来的面貌。而这本书,恰恰是一个引领读者深入了解这两大领域的绝佳入门之选,无论你是从事计算机科学、信息技术的老师、学生、从业者,还是只是对新技术充满好奇的爱好者。
RabbitMq整合springboot超详细,超适合新手
Rabbitmq。
实战:大数据Flink CDC同步Mysql数据到ElasticSearch
CDC 的全称是 Change Data Capture(变更数据捕获技术) ,在广义的概念上,只要是能捕获数据变更的技术,我们都可以称之为 CDC 。目前通常描述的 CDC 技术主要面向数据库的变更,是一种用于捕获数据库中数据变更的技术。
RabbitMQ基础与实操复习
MQ(Message Quene) : 翻译为消息队列,通过典型的生产者和消费者模型,生产者不断向消息队列中生产消息,消费者不断的从队列中获取消息。因为消息的生产和消费都是异步的,而且只关心消息的发送和接收,没有业务逻辑的侵入,轻松的实现系统间解耦。别名为消息中间件通过利用高效可靠的消息传递机制进行
Spring Cloud Eureka:服务注册与发现
Spring Cloud Eureka:服务注册与发现
EureKa快速入门
EureKa快速入门
【大数据】Apache Iceberg 概述和源代码的构建
我们在使用不同的引擎进行大数据计算时,需要将数据根据计算引擎进行适配。这是一个相当棘手的问题,为此出现了一种新的解决方案:介于上层计算引擎和底层存储格式之间的一个中间层。这个中间层不是数据存储的方式,只是定义了数据的元数据组织方式,并向计算引擎提供统一的类似传统数据库中 “表” 的语义。它的底层仍然
Docker安装Hadoop分布式集群
hadoop目录安装在:/usr/local/hadoop-2.7.0/etc/hadoop。
SpringBoot RabbitMQ 实现消息队列功能
在企业级应用中,为了提升系统性能、降低响应延迟、改善用户体验、增加系统的稳定性、提高资源利用率等方面所需的功能之一就是使用消息队列。RabbitMQ是一个开源的AMQP(Advanced Message Queuing Protocol)的实现消息队列,它是用Erlang语言开发的。Spring A
RabbitMQ实现死信队列
RabbitMQ实现死信队列
Kerberos安全认证-连载11-HBase Kerberos安全配置及访问
技术连载系列,前面内容请参考前面连载10内容:大数据组件HBase也可以通过Kerberos进行安全认证,由于HBase中需要zookeeper进行元数据管理、主节点选举、故障恢复,所以这里对HBase进行Kerberos安全认证时,建议也对Zookeeper进行安全认证
互联网最新报告出炉!程序员必看系列!
近期,CNNIC发布第50次《中国互联网络发展状况统计报告》,报告显示:截至2022年6月,①我国网民规模为10.51亿;②我国网民人均周上网29.5小时;③我国短视频用户规模达9.62亿,网络直播用户规模达7.16亿;④在线医疗用户规模达3.00亿。自1997年起,CNNIC(中国互联网络信息中心
hdfs删除后空间不是释放,trash回收机制
在2023-06-19删除完的文件后,将删除的文件移动到/user/hadoop/.Trash/current文件夹下,3天后2023-06-22检查点生成机制运行,将回收站中的数据移动到/user/hadoop/.Trash/20230622080017,此时也会删除当前时间三天前过期的检查点数据
Apache Flink 各项核心特性,与其它大数据引擎的优势比较
2020年是Apache Flink诞生的一年,Flink被国内多个大公司和金融机构采用。截至目前,Apache Flink已覆盖了五个主要的云服务平台,并于2021年7月发布1.12版,面向生产环境的稳定运行速度得到了保证。它是一个开源的分布式流处理框架,具有高容错性、可靠性、低延迟等特征,能够支
hive报错信息不明确的情况汇总
return code 1 from org.apache.hadoop.hive.ql.exec.MoveTask. Exception when loading 1 in table uniaction1 with loadPath
大数据之Hadoop分布式数据仓库HBase
HBase 是一个构建在 Hadoop 文件系统之上的面向列的数据库管理系统。HBase 是一种类似于 Google’s Big Table 的数据模型,它是 Hadoop 生态系统的一部分,它将数据存储在 HDFS 上,客户端可以通过 HBase 实现对 HDFS 上数据的随机访问。不支持复杂的事
Hadoop-5-HDFS常用命令
打印作业的细节、失败及被杀死原因的细节。更多的关于一个作业的细节比如成功的任务,做过的任务尝试等信息可以通过指定。把hdfs里面的多个文件合并成一个文件,合并后文件位于本地系统。从检查点目录装载镜像并保存到当前检查点目录,检查点目录由。最近的升级会被持久化,回滚到前一版本,这个选项要在停止集群,分发
【FusionInsight 迁移】HBase从C50迁移到6.5.1(01)迁移概述
项目上最近全新部署了FusionInsight HD 6.5.1大数据集群,并且希望将老集群FusinInsight HD C50的所有业务都迁移到新集群上。由于在老集群C50上的HDFS、HBase中存在有大量的业务数据,因此将业务从C50迁移到6.5.1的过程中,就需要将C50上的业务数据同步迁
使用Docker安装部署RabbitMQ
RabbitMQ是由erlang语言开发,基于AMQP(Advanced Message Queue 高级消息队列协议)协议实现的消息队列,它是一种应用程序之间的通信方法,消息队列在分布式系统开发中应用非常广泛。RabbitMQ官方地址:http://www.rabbitmq.com如果在云服务上部
datax的使用以及参数解释,快速入门版
datax的使用以及参数解释,快速入门版