【大数据】Hadoop学习笔记
Hadoop学习笔记, 包含了HDFS/YARN/MapReduce的学习笔记
Hive的一系列启动命令
• 会基于 yarn-site.xml 中配置的 yarn.resourcemanager.hostname 来决定在哪台机器上启动 resourcemanager。• 读取 core-site.xml内容（ fs.defaultFS 项），确认 NameNode所在机器，启动 NameNode。•
【大数据技术原理与应用（概念、存储、处理、分析与应用）】第2章-大数据处理架构 Hadoop习题与知识回顾
这一章节主要介绍大数据处理架构 Hadoop
Hadoop 部署
Hadoop部署，一键开启大数据之旅！在几台廉价服务器上，轻松构建高效、可靠、可扩展的分布式计算平台。HDFS存储海量数据，MapReduce加速处理，为数据分析和挖掘提供强大动力。无需深究底层细节，轻松驾驭大数据时代！
Hadoop 安装与伪分布的搭建
在Hadoop生态系统中，YARN（Yet Another Resource Negotiator）是一个通用的资源管理系统，它不仅可以管理MapReduce作业，还可以支持其他类型的计算框架。Secondary NameNode并不存储集群的实时状态，但它定期合并NameNode的fsimage和
Hive实现delete、update操作
【代码】Hive实现delete、update操作。
未授权访问：Hadoop 未授权访问漏洞
Hadoop是一个由Apache基金会所开发的分布式系统基础架构，由于服务器直接在开放了 Hadoop 机器 HDFS 的 50070 web 端口及部分默认服务端口，黑客可以通过命令行操作多个目录下的数据，如进行删除，下载，目录浏览甚至命令执行等操作，产生极大的危害。
大数据Hive——数据倾斜
什么是数据倾斜呢?简单的讲，数据倾斜就是在我们计算的时候，由于数据的分布不均，导致大量的数据集中在一台或者几台服务器上，造成数据的热点问题，这些数据的计算速度往往低于平均计算速度，从而导致整个计算过程变慢用Hive算数据的时候reduce阶段卡在99.99%用SparkStreaming做实时算法时
探索Hadoop：大数据处理的核心技术
Hadoop是由Apache软件基金会开发的一个开源框架，用于存储和处理大型数据集。它最早由Doug Cutting和Mike Cafarella在2006年创建，灵感来自于Google的文件系统（GFS）和MapReduce论文。Hadoop的目标是解决传统数据库系统无法有效处理的大规模数据处理问
hive获取月初1号以及次月1号
-把系统时间减去目前天数的日期转换为时间戳格式。如系统时间：2024123，即为2024123-23=20231231。--4.系统时间减去系统天数--即上月的最后一天:是否要加unix_timestamp还不确定。--转换为时间：2024-01-01 00:00:00。--1.剖析：获取系统时间的
Hadoop伪分布式搭建、Hive搭建
防火墙若不关闭可能导致hadoop模块受损。
从 Hadoop 迁移，无需淘汰和替换
计算节点：Kubernetes 高效管理计算节点上的无状态 Apache Spark 和 Apache Hive 容器，确保资源利用率和动态扩展。存储层：MinIO纠删码和BitRot保护意味着您可能会丢失多达一半的驱动器数量，但仍然可以恢复，所有这些都不需要维护Hadoop所需的每个数据块的三个副
Hadoop 教程 - Hadoop YARN Resource 资源配置
YARN支持扩展资源类型，允许用户定义除内存和CPU之外的其他资源，如GPU、网络带宽等。描述: 配置文件中定义自定义资源类型。描述: 在Capacity Scheduler中，每个队列可以设置用户最低资源占有率百分比，以保证公平性。
【人机交互 复习】第2章 Hadoop
在Hadoop 2.0及以上版本中，start-all.sh 已被拆分为 start-dfs.sh 和 start-yarn.sh，但在旧版本中，start-all.sh 可以启动这两个服务。1.Hadoop 是一个能够对大量数据进行分布式处理的软件框架，并 且是以一种可靠、高效、可伸缩的方式进行
大数据技术之Hadoop-分布式文件系统
配置HDFS。
【hive】lateral view侧视图
lateral view也叫侧视图，属于hive sql所特有的语法。用来实现类似标准sql中join的操作。join参与运算的往往是两个表，根据指定的关联字段进行横向连接。lateral view参与运算的是一张表，这张表里往往存在某个多值的字段，通过侧视图结合UDTF函数可以将这个多值字段拆分为
大数据开发之Hive（统计影音视频网站的常规指标）
1、视频表2、用户表。
【图解大数据技术】Hadoop、HDFS、MapReduce、Yarn
MapReduce是一个分布式离线计算框架，专门用于处理大数据场景中与实时性无关的一些离线计算任务。MapReduce的数据输入一般是HDFS，然后经过InputFormat进行输入格式化，变成格式；然后执行用户实现的Mapper类型的map方法，进行数据映射，映射处理的结果也是格式；然后执行一个s
基于hadoop豆瓣电影数据分析
代码:load data local inpath "/home/liuxuanting/douban_movie-1686527723744.txt" into table lxt_2021900406；代码：hdfs dfs -copyFromLocal /home/liuxuanting/li
Hadoop 3.3.6 + Tez 0.10.3 + Hive 4.0.0 安装指南
根据 Hive 官方发布说明，Hive 4.0.0 兼容 Hadoop 3.3.6 和 Tez 0.10.3，尝试搭建了一套单节点的环境用于学习。
