大数据处理实验（三）HDFS基本操作实验
HDFS基本操作实验一、Hadoop配置环境变量列出当前目录下的文件级联创建一个文件夹，类似这样一个目录：/mybook/input上传文件至HDFS从HDFS上下载文件查看HDFS上某个文件的内容统计目录下各文件的大小（单位：字节B）删除HDFS上某个文件或者文件夹使用help命令寻求帮助。HDF
数据采集及预处理——针对“数据”“采集”“预处理”的理解与解析
数据采集及预处理文章目录数据采集及预处理前言一、 数据二、 采集1.系统日志采集2.网络数据采集3.ETL三. 预处理总结前言一、 数据在计算机系统中，各种字母、数字符号的组合、语音、图形、图像等统称为数据，数据经过加工后就成为信息。数据（data）是事实或观察的结果，是对客观事物的逻辑归纳，是用于
【Hadoop】 | 搭建HA之报错锦集
这篇文章主要介绍博主在进行 Hadoop Ha 搭建时，以及 MapReduce 编程时，遇到的部分错误，分享给大家参考！
Hive on Spark环境搭建（解决Hive3.1.2和Spark3.0.x版本冲突）
使用Hive做元数据存储和HQL解析，Spark做实际计算。（Hive on Spark）Hive 使用3.1.2版本，Spark 使用3.0.3版本 。由于Hive 3.1.2 和 Spark 3.0.3不兼容，需要修改Hive中关于Spark的源码和依赖引用。下载Hive 3.1.2源码 ，上传
iptables防火墙屏蔽指定ip的端口
#尾部插入一条记录,拒绝ip访问除了22端口以外的所有端口iptables -A INPUT -s 192.1.217.54 -p tcp -m tcp ! --dport 22 -j REJECT# 第一行插入规则允许通过的端口号iptables -I INPUT 1 -s 192.1.217.
【大数据学习篇1】linux常用命令
/list查看当前目录下有什么文件ls //list -list 通过详细内容形式查看目录下的文件内容 ls -l 或 ll //查看指定目录下文件名字信息 ls 目录 //以详细列表形式查看指定目录下文件名字信息 ls -l 目录 //list all 查看全部文件，包括隐藏文件 ls -a //
【云原生】Hadoop on k8s 环境部署
Hadoop是Apache软件基金会下一个开源分布式计算平台，以HDFS（Hadoop Distributed File System）、MapReduce（Hadoop2.0加入了YARN，Yarn是资源调度框架，能够细粒度的管理和调度任务，还能够支持其他的计算框架，比如spark）为核心的Had
HIVE 基本查询操作（二）——第2关：Hive数据类型和类型转换
的内置数据类型，2.如何转换数据类型。的内置数据类型可以分为两大类：(1)、日每种股票总共被客户买入了多少金额。为了完成本关任务，你需要掌握：1.(1) 如果将浮点型的数据转换成。日每种股票总共被客户买入了多少元。类型数据是一个数字类型()，这时候你可以利用嵌套的。开始你的任务吧，祝你成功！函数来实
大数据hadoop生态技术简介
大数据生态知识体系
大数据技术之Hadoop(八)——Flume日志采集系统
Flume日志采集系统的认识与操作
Hive数据操作
hive学习02-数据操作
分布式计算----期末复习题（仅供参考）
单独看yarn的进程：start-yarn.sh ，出现resourcemanager（主节点），nodemanager（从节点）。(3) core- site.xml作用: 配置NameNode的所在主机或者通讯地址及NameNode格式化后的目录的路径。3.如果你使用的是Hadoop3.x版本，
ubuntu设置MySQL密码
在ubuntu中设置MySQL用户密码
Hadoop大数据处理与分析教程
本文所需文件(Vmware虚拟机、密匙、乌班图系统、JDK、Hadoop）链接：https://pan.baidu.com/s/1yU5s36Rgl_jE_mAmHsJBfQ?pwd=i5s6提取码：i5s6。
《大数据系统与编程》MapReduce程序实现词频统计实验报告
《大数据系统》的课程实验，包括实验目的、实验要求与实验过程记录（有截图），仅供学生初级参考，引用图片请标明出处。
Hive | 报错锦集
Hive使用过程中遇到的部分问题分享，快来看看吧！
Sqoop安装配置
sqoop安装配置以及运用
hadoop环境新手安装教程
这一步需要对hadoop下的 core-site.xml、hadoop-env.sh、hdfs-site.xml、mapred-site.xml、yarn-site.xml等文件进行配置。这里我用了3台虚拟机，1台改为master，另外2台分别改为node1和node2。（3）IP地址改写，这里需要
hadoop-hdfs集群安全模式详解
安全模式相关命令查看安全模式 hdfs dfsadmin -safemode get进入安全模式状 hdfs dfsadmin -safemode enter离开安全模式 hdfs dfsadmin -safemode leave等待安全模式状态 hdfs dfsadmin -safemode
大数据Doris（三十九）：Spark Load 注意事项
3、使用Spark Load时spark_home_default_dir配置项没有指定spark客户端根目录,提交Spark job 时用到 spark-submit 命令，如果 spark_home_default_dir 设置错误，会报 Cannot run program "xxx/bin/
