spark withColumn的使用（笔记）
withColumn()：是Apache Spark中用于DataFrame操作的函数之一，它的作用是在DataFrame中添加或替换列，或者对现有列进行转换操作和更新等等。
Spark 基础概念
Spark1. Spark基础概念1.1 Spark概述1.2 Spark 四大特点运行速度快1.3 Spark 框架1.4 Spark 运行模式集群模式1.5 spark-shell1.6 Spark Application程序1.6 Spark Standalone集群模式 介绍Standalo
Spark: a little summary
对于数据分区中的数据记录，Spark 会根据我们前面提到的公式 1 逐条计算记录所属的目标分区 ID，然后把主键（Reduce Task Partition ID，Record Key）和记录的数据值插入到 Map 数据结构中。到此为之，磁盘上存有若干个溢出的临时文件，而内存的 Map 结构中留有部
【Spark原理系列】自定义聚合函数 UserDefinedAggregateFunction 原理用法示例源码分析
`UserDefinedAggregateFunction` 是 Spark SQL 中用于实现用户自定义聚合函数（UDAF）的抽象类。通过继承该类并实现其中的方法，可以创建自定义的聚合函数，并在 Spark SQL 中使用。
Spark3的新特性
Spark3新特性
Spark on YARN部署模式保姆级教程
没有最好的部署模式，具体要根据实际需求进行部署，由于Spark可以和Hadoop部署在一起，相互协作，Hadoop的HDFS，HBase负责数据存储与管理，Spark负责数据的计算，所以本文将详细讲解Spark on YARN模式的部署。这两种模式的选择取决于实际需求和使用环境，例如，学习、调试阶段
Elasticsearch与Hadoop和Spark的整合与大数据处理
1.背景介绍1. 背景介绍Elasticsearch是一个开源的搜索和分析引擎，基于Lucene库构建，具有实时搜索、文本分析、数据聚合等功能。Hadoop是一个开源的分布式存储和分析平台，由Google的MapReduce算法启发，具有高可扩展性和高容错性。Spark是一个快速、高效的大数据处理引
简单使用Spark、Scala完成对天气数据的指标统计
学习Spark和Scala编程可以帮助我们处理大规模数据，进行数据分析。使用Spark和Scala编写程序可以提高数据处理的效率和灵活性，同时还能够充分发挥分布式计算的优势。通过学习这两门技术，我们可以更好地理解数据处理的流程和原理，并且可以应用到实际的数据分析和统计工作中。总而言之，学习Spark
Flink Shuffle、Spark Shuffle、Mr Shuffle 对比
Flink Shuffle、Spark Shuffle、Mr Shuffle 对比
Spark的timestamp 数据时间问题
使用Spark来处理国际业务数据，涉及到数据时区转换，在实际项目中出现时区转换问题。但在实际Cluster 去run job的时候，如果给一个eff_dt为的时间，但是往往会出现df_eff_dt为20240131的日期。
Iceberg从入门到精通系列之二十四：Spark Structured Streaming
Iceberg 使用 Apache Spark 的 DataSourceV2 API 来实现数据源和目录。Spark DSv2 是一个不断发展的 API，在 Spark 版本中提供不同级别的支持。
Spark 提交命令和参数介绍
参考：spark官网配置介绍：Configuration - Spark 3.5.0 Documentationspark-sql参数一、提交命令 参数名格式参数说明--packages包含在driver和executor的classpath下的jar包逗号分隔的”groupId:artifac
实战：使用Docker和Spark构建大数据分析系统
1.背景介绍1. 背景介绍大数据分析是现代企业和组织中不可或缺的一部分，它有助于提取有价值的信息和洞察，从而支持决策过程。然而，构建高效的大数据分析系统是一项复杂的任务，涉及多种技术和工具。Docker是一个开源的应用容器引擎，它使用一种名为容器的虚拟化方法来隔离软件应用的运行环境。这使得开发人员可
深度干货｜谈谈阿里云AnalyticDB Spark如何构建低成本数据湖分析
本文将分享AnalyticDB MySQL Spark助力构建低成本数据湖分析的最佳实践。
【Spark精讲】一文讲透SparkSQL物理执行计划
【Spark精讲】一文讲透SparkSQL物理执行计划，SparkPlan，LeafExecNode类型，BinaryExecNode类型
合并spark structured streaming处理流式数据产生的小文件
为了解决上述问题，Databricks 提供了小文件自动合并功能，在每次向 Delta 表中写入数据之后，会检查 Delta 表中的表文件数量，如果 Delta 表中的小文件（size < 128MB 的视为小文件）数量达到阈值，则会执行一次小文件合并，将 Delta 表中的小文件合并为一个新的大文
数据仓库安全与隐私：保护措施与实践
1.背景介绍数据仓库安全与隐私是当今数据驱动经济的关键问题之一。随着数据的积累和分析的重要性不断提高，数据仓库的安全和隐私保护成为了企业和组织的重要议题。数据仓库安全与隐私的保护措施涉及到数据的收集、存储、处理和传输等各个环节，需要采取相应的技术手段和管理措施来确保数据的安全和隐私不被滥用。在这篇文
大数据 - Spark系列《八》- 闭包引用
本文将深入探讨闭包引用的原理和应用。首先，我们将介绍闭包引用的概念及其副本的形成机制。随后，通过两个实例代码演示闭包引用在 Spark 中的具体应用场景。接下来，我们将讨论使用 Source.fromFile 和 sc.textFile 两种方法读取数据的差异和适用场景。最后，我们会总结闭包引用的注
spark为什么比mapreduce快？
因为mapreduce计算模型只能包含一个map和一个reduce,所以reduce完后必须进行落盘，而DAG可以连续shuffle的，也就是说一个DAG可以完成好几个mapreduce，所以dag只需要在最后一个shuffle落盘，就比mapreduce少了，总shuffle次数越多，减少的落盘次
SparkUI任务启动参数介绍（148个参数）
SparkUI中有很多任务启动参数，需要对参数有一个深入了解才能进一步调优，资源优化
