Hive内部表和外部表的简单区别

Hive外部表和内部表简单区别

Hadoop原理与技术——hdfs命令行基本操作

Hadoop原理与技术——hdfs命令行基本操作

java使用idea操作HDFS

java和hdfs

【大数据监控】Prometheus、Node_exporter、Graphite_exporter安装部署详细文档

Prometheus是一个开源的系统监控和报警系统,现在已经加入到CNCF基金会,成为继k8s之后第二个在CNCF托管的项目,在kubernetes容器管理系统中,通常会搭配prometheus进行监控,同时也支持多种exporter采集数据,还支持pushgateway进行数据上报,Prometh

大数据NiFi(十九):实时Json日志数据导入到Hive

如果所提供的JsonPath计算为指定的值,JSON的返回类型可以返回"scalar"。当一次性向tail的文件输入多条数据,我们不希望全部json行内容替换成第一行json内容,那么可以将“TailFile”处理器处理的数据直接传递给“ConvertRecord”处理器,将数据由json格式转换成

【无标题】

123

Hadoop学习——Hadoop单机运行Grep实例(包含错误解决方法)

上一篇安装了Hadoop单机,所以今天打算先用Hadoop的mapreduce自带的Grep实例实践一下,顺带测试Hadoop是否成功安装。(不是水博客,有在努力填坑)实践开始之前,我们需要了解一下Grep实例,Grep(缩写来自Globally search a Regular Expressio

Spark任务中Task数量确定和一些总结

Spark任务中Task数量如何确定?

HDFS的基础练习--新建目录

4.把mydata01上传到HDFS的/data01,把mydata02上传到HDFS的/data02,以此类推,把5份文件都上传到大数据平台的HDFS上。3.在/home/hadoop/software/自己名字命名目录下创建5分有数据的文件(mydata01-mydata05)文件内容自定义。h

Hive与Hadoop的版本对应关系

hive与hadoop的版本关系

Flink 基础知识

主从架构:flink

Hadoop分布式(最小集群)搭建(三台虚拟机)

三台虚拟机分布式搭建Hadoop

Spark的五种提交作业方式

该文介绍了Spark的五种作业提交方式

6.Linux下配置Hadoop集群之完全分布式配置

否则,需要查看命令是否正确,或此前Hadoop 集群的安装和配置是否正确。此外需要注意的是,上述格式化命令只需要在Hadoop集群初次启动前执行一次即可,后续重复启动时不需要执行格式化。在配置上述文件中,HDFS数据块的副本数量(默认值为3)其中配置了Secondarynamenode,nameno

Hive设置连接用户名和密码

当hive客户端搭建起来之后,应用项目远程连接hive需要设置用户名和密码;由于hive默认的用户名和密码都是空的,所以需要我们自定义用户名和密码;首先,添加hive的maven依赖,这儿maven的版本和hive运行的jar版本保持一致,不然容易出问题,hive/lib下查看jar的版本信息。需要

使用 Docker 安装 Hadoop 集群

相信大家都有过玩虚拟机的经验,也相信大家有想搭一个大数据集群偶尔在自己电脑上做做测试。使用虚拟机是可以完成的,但是过程非常漫长,而且很多操作不能以后重复使用。这里我近期使用Docker完成了测试集群的搭建,我想用的时候,十几秒就可以直接启动,速度很快。而且所有的镜像都可以上传hub云端,想用的时候,

Spark环境搭建(Hadoop YARN模式)

按照前面环境部署中所学习的,如果我们想要一个稳定的生产Spark环境,那么最优的选择就是构建:HA StandAlone集群。不过在企业中, 服务器的资源总是紧张的,许多企业不管做什么业务,都基本上会有Hadoop集群。也就是会有YARN集群。对于企业来说,在已有YARN集群的前提下在单独准备Spa

Hive之explode()函数和posexplode()函数和lateral view函数

目录1、explode()函数2、posexplode()函数3、lateral view函数1、explode()函数英文释义:explode() takes in an array (or a map) as an input and outputs the elements of the ar

windows上配置hadoop并通过idea连接本地spark和服务器spark

windows上安装hadoop,用idea开发工具连接,实现独立应用的java spark程序。

CDH6.2.1 集成ranger和atlas操作手册

本文档旨在描述相关CDH6.2.1集成ranger和atlas的安装配置操作,便于相关使用人员后参考

登录可以使用的更多功能哦! 登录
作者榜
...
资讯小助手

资讯同步

...
内容小助手

文章同步

...
Deephub

公众号:deephub-imba

...
奕凯

公众号:奕凯的技术栈