Hadoop分布式（最小集群）搭建（三台虚拟机）
三台虚拟机分布式搭建Hadoop
Spark的五种提交作业方式
该文介绍了Spark的五种作业提交方式
6.Linux下配置Hadoop集群之完全分布式配置
否则,需要查看命令是否正确,或此前Hadoop 集群的安装和配置是否正确。此外需要注意的是,上述格式化命令只需要在Hadoop集群初次启动前执行一次即可,后续重复启动时不需要执行格式化。在配置上述文件中，HDFS数据块的副本数量（默认值为3）其中配置了Secondarynamenode，nameno
Hive设置连接用户名和密码
当hive客户端搭建起来之后，应用项目远程连接hive需要设置用户名和密码；由于hive默认的用户名和密码都是空的，所以需要我们自定义用户名和密码；首先，添加hive的maven依赖，这儿maven的版本和hive运行的jar版本保持一致，不然容易出问题，hive/lib下查看jar的版本信息。需要
使用 Docker 安装 Hadoop 集群
相信大家都有过玩虚拟机的经验，也相信大家有想搭一个大数据集群偶尔在自己电脑上做做测试。使用虚拟机是可以完成的，但是过程非常漫长，而且很多操作不能以后重复使用。这里我近期使用Docker完成了测试集群的搭建，我想用的时候，十几秒就可以直接启动，速度很快。而且所有的镜像都可以上传hub云端，想用的时候，
Spark环境搭建（Hadoop YARN模式）
按照前面环境部署中所学习的，如果我们想要一个稳定的生产Spark环境，那么最优的选择就是构建：HA StandAlone集群。不过在企业中， 服务器的资源总是紧张的，许多企业不管做什么业务，都基本上会有Hadoop集群。也就是会有YARN集群。对于企业来说，在已有YARN集群的前提下在单独准备Spa
Hive之explode()函数和posexplode()函数和lateral view函数
目录1、explode()函数2、posexplode()函数3、lateral view函数1、explode()函数英文释义：explode() takes in an array (or a map) as an input and outputs the elements of the ar
windows上配置hadoop并通过idea连接本地spark和服务器spark
windows上安装hadoop，用idea开发工具连接，实现独立应用的java spark程序。
CDH6.2.1 集成ranger和atlas操作手册
本文档旨在描述相关CDH6.2.1集成ranger和atlas的安装配置操作，便于相关使用人员后参考
hadoop完全分布式搭建与集群测试
hadoop是本文章主演介绍hadoop完全分布式搭建过程。Hadoop是一个由Apache基金会所开发的分布式系统基础架构，是完全开源的，是由java语言编写的。
Hive 数据倾斜
Hive 数据倾斜
元数据性能大比拼：HDFS vs S3 vs JuiceFS
一般我们在看一个系统的性能时，主要关注它的操作时延（单个操作所消耗的时间）和吞吐量（满负载下的处理能力），我们把这两个指标再汇总一下：S3 非常慢，尤其是 Rename 操作，因为它是通过 Copy + Delete 实现的。本文测试的还只是单个空文件的 Rename，而大数据场景常用的是对整个目录
hiveSQL开窗函数详解
窗口函数也称OLAP函数，对数据库进行实时分析处理。
练习HDFS的访问，创建目录，删除目录--超详细
2、进入到sbin目录下输入：start-dfs.sh，重启一下。4、创建的多个目录，在虚拟机上查看：hdfs dfs -ls /之后再输入hdfs dfs -ls /，没有出现拒绝连接即可。hdfs dfs -mkdir /(文件名字）
数据同步之全量同步与增量同步
一、什么是数据同步业务数据是数据仓库的重要数据来源，我们需要每日定时从业务数据库中抽取数据，传输到数据仓库中，之后再对数据进行分析统计。为保证统计结果的正确性，需要保证数据仓库中的数据与业务数据库是同步的，离线数仓的计算周期通常为天，所以数据同步周期也通常为天，即每天同步一次即可。数据的同步策略有全
【计算机大数据毕设之基于spark+hadoop的大数据分析论文写作参考案例】
【计算机大数据毕设之基于spark+hadoop的大数据分析论文写作参考案例-哔哩哔哩】https://b23.tv/zKOtd3L目 录一 引言1二 系统分析22.1 必要性和可行性分析22.2 技术分析2三 总体设计43.1 可视化界面设计43.2 数据库设计43.3 网页设计5
HIVE 3 使用 MR 引擎多表关联 (JOIN) 导致丢数的问题复现、问题根源及解决方案 (附代码)
HIVE 3 使用 MR 引擎多表关联 (JOIN) 导致丢数的问题复现、问题根源及解决方案 (附代码)
hadoop的HDFS的shell命令大全（一篇文章就够了）
HDFS的shell命令1、安全模式安全模式：集群启动时，DN所有的DN都必须向MM汇报磁盘使用状态和block存储信息。在此之前出于对hdfs的保护，会禁止访问hdfs，此状态为安全模式1.查看安全模式状态#查看安全模式状态hdfs dfsasmin --safemode get#-状态-on|o
Ubuntu安装Hadoop3.1.3教程
本教程使用Ubuntu16.04 64位作为系统环境。
CDH Parcel包starrocks集成cloudera Manager
CDH starrocks 集成cloudera Manager
