（头哥）Spark环境搭建与使用
【代码】Spark环境搭建与使用。
Spark实战：词频统计
在Spark实战中，我们通过Scala和Python两个版本分别实现了词频统计的功能。首先，我们从文本文件中创建了RDD，然后按空格拆分进行扁平化映射，接着将单词数组映射成二元组数组，之后对二元组数组进行按键归约，最后将词频统计结果按次数降序排列。在分步实现的基础上，我们还可以通过一步命令直接完成整
spark君第一篇图文讲解Delta源码和实践的文章
手绘了下图所示的kafka知识大纲流程图（xmind文件不能上传，导出图片展现），但都可提供源文件给每位爱学习的朋友《一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码》点击传送门，即可获取！手绘了下图所示的kafka知识大纲流程图（xmind文件不能上传，导出图片展现），但都
实验2-spark编程
（1）通过实验掌握Spark的基本编程方法；（2）熟悉RDD到DataFrame的转化方法；（3）熟悉利用Spark管理来自不同数据源的数据。
深入理解Spark BlockManager：定义、原理与实践
Spark是一个开源的大数据处理框架，其主要特点是高性能、易用性以及可扩展性。在Spark中，BlockManager是其核心组件之一，
数据仓库 vs 数据湖 vs 湖仓一体：如何基于自身数据策略，选择最合适的数据管理方案？
一文读懂数据仓库、数据湖、湖仓一体的区别，找准更适合的数据策略。结合大型视频流平台、电商、医疗等行业场景深入剖析。
spark实验三-spark进阶编程
掌握使用spark自定义分区掌握打包spark工程掌握通过spark-submit提交应用实验说明先有一份某年度中国女排集训运动员数据文件 Volleyball_Plaryer.csv ，数据字段说明如下表所示现要求在IntelliJ IDEA 中进行spark编程，通过自定义分区实现将运动员按照所
Spark实战项目：电商数据分析
1.背景介绍1. 背景介绍电商数据分析是一项非常重要的技能，它可以帮助企业了解消费者行为、优化商品推荐、提高销售额等。随着数据规模的增加，传统的数据处理方法已经无法满足需求。因此，需要一种高效、可扩展的大数据处理框架来处理这些复杂的数据。Apache Spark是一个开源的大数据处理框架，它可以处理
Spark在AI和深度学习中的应用
1.背景介绍1. 背景介绍Apache Spark是一个开源的大规模数据处理框架，它可以处理批量数据和流式数据，并提供了一个易用的编程模型。Spark在大数据领域得到了广泛的应用，但是在AI和深度学习领域的应用却相对较少。然而，随着数据量的增加，Spark在AI和深度学习领域的应用也逐渐崛起。在本文
Spark-机器学习（1）什么是机器学习与MLlib算法库的认识
从这一系列开始，我会带着大家一起了解我们的机器学习，了解我们spark机器学习中的MLIib算法库，知道它大概的模型，熟悉并认识它。同时，本篇文章为个人spark免费专栏的系列文章，有兴趣的可以收藏关注一下，谢谢。同时，希望我的文章能帮助到每一个正在学习的你们。也欢迎大家来我的文章下交流讨论，共同进
第一章：JAVA Spark的学习和开发【由浅入深】之搭建windows本地开发环境搭建
最近个人学习了一些大数据相关的开发技术，想分享给那些刚入门，不知道怎么入手开发的小伙伴们。文本主要介绍了如果在windows的环境下搭建单机版spark应用程序【java】基本的搭建步骤都在上面了，有不对的环节或者按步骤搭建完成不能用的同学，欢迎留言评论。
使用Python进行大数据处理Dask与Apache Spark的对比
Dask是一个灵活的并行计算库，它允许您以类似于NumPy、Pandas和Scikit-learn的方式处理大规模数据。它提供了类似于这些库的API，同时能够自动分布计算任务到集群上。在本文中，我们对Dask和Apache Spark进行了全面的对比，涵盖了它们的性能、API和生态系统等方面。Das
Spark重温笔记（一）：一分钟部署PySpark环境，轻松上手Spark配置
Spark 是一种快速、通用、可扩展的大数据分析引擎，2009 年诞生于加州大学伯克利分校。1-速度快：其一、Spark处理数据时，可以将中间处理结果数据存储到内存中其二、spark job调度以DAG方式，每个任务Task以线程Thread方式，而不是mapreduce以进程process方式2-
Spark-机器学习（2）特征工程之特征提取
今天的文章，我会带着大家一起了解我们的特征提取和我们的tf-idf，word2vec算法。希望大家能有所收获。同时，本篇文章为个人spark免费专栏的系列文章，有兴趣的可以收藏关注一下，谢谢。同时，希望我的文章能帮助到每一个正在学习的你们。也欢迎大家来我的文章下交流讨论，共同进步。
实验五 Spark SQL编程初级实践
实验五 Spark SQL编程初级实践，从零开始，教你安装，有详细图表和注释。新手小白也可以学会
Pyspark库以及环境配置
一、pyspark类库类库：一堆别人写好的代码，可以直接导入使用，例如Pandas就是Python的类库。框架：可以独立运行，并提供编程结构的一种软件产品，例如Spark就是一个独立的框架。PySpark是Spark官方提供的一个Python类库，内置了完全的Spark API，可以通过PySpar
spark基本原理&UI界面解读
一级入口重点内容executors不同executors之间，是否存在负载倾斜不同executors之间，是否存在负载倾斜storage分布式数据集的缓存级别，内存，磁盘缓存比例SQL初步了解不同执行计划的执行时间，确实是否符合预期jobs初步感知不同jobs的执行时间，确实是否符合预期stage初
每天十分钟学会Spark【期末必看系列】
小白学大数据Spark编程第3课
实验五 Spark Streaming编程初级实践
注意，上面命令中，“localhost:9092 wordsender 3 5”是提供给KafkaWordProducer程序的4个输入参数，第1个参数“localhost:9092”是Kafka的Broker的地址，第2个参数“wordsender”是Topic的名称，我们在KafkaWordCo
HDFS常用操作以及使用Spark读取文件系统数据
在HDFS中的“/user/hadoop”目录下，创建子目录input，把HDFS中“/user/hadoop”目录下的test.txt文件，复制到“/user/hadoop/input”目录下；删除HDFS中“/user/hadoop”目录下的test.txt文件，删除HDFS中“/user/ha
