孙悟空被压500年也想不出看文档瞬间就会scala和spark以及hadoop
export HADOOP_CONF_DIR=/usr/local/src/hadoop/etc/hadoop #指定hadoop路径。解压tar -zxvf /opt/software/hadoop-2.7.1.tar.gz -C /usr/local/src。export HADOOP_HOME
震惊Hadoop伪分布式+spark+scala竟如此简单！
验证hdfs：可以登录浏览器地址：192.168.20.11:50070 （ip地址是master的地址）export JAVA_HOME=/opt/jdk #这里是opt目录。修改 hdfs-site.xml 将dfs.replication设置为1。在最后加上export JAVA_
ubuntu 部署spark
确保机器能够正常上网。首先下载spark安装包，
spark错误集锦
spark遇到的错误 持续更新
Spark编程基础
RDD算子分为转换（Transformation）算子和行动（ Action）算子，程序运行到转换算子时并不会马上执行转算子，只有碰到行动算子才会真正执行转换算子。
Spark--Scala基础知识总结(第二章)
Scala会区分不同类型的值，并且会基于使用值的方式确定最终结果的数据类型，这称为类型推断Scala使用类型推断可以确定混合使用数据类型时最终结果的数据类型如在加法中混用Int和Double类型时，Scala将确定最终结果为Double类型，如下图常量在程序运行过程中值不会发生变化的量为常量或值，常
Spark机器学习库MLlib介绍及实践
Spark MLlib是Apache Spark的机器学习库，提供了常见的机器学习算法和实用程序，包括分类、回归、聚类、协同过滤等。此外，MLlib还提供了丰富的特征处理和模型评估工具，方便用户进行模型调优和性能评估。随着大数据技术的不断发展，机器学习作为数据处理和分析的重要手段，也得到了广泛的关注
Spark SQL编程初级实践
【代码】Spark SQL编程初级实践。
Spark 为什么比 Hive 快
由于 MapReduce 的特性，Hive 在处理大规模数据时可能会出现较高的延迟，因为它需要频繁地将数据写入和读取磁盘，Shuffle 操作会导致花费的时间代价比较大。那么在稳定性方面，Hive 优于 Spark，这是因为在 MR 任务中，数据总是按照块分片进行处理，每块数据都可以独立地读取和处理
头歌：Spark案例剖析 - 谷歌网页排名引擎PageRank实战
下面我们重点介绍Spark SQL的初始化，数据库的使用，外部数据的导入，从而将网页数据导入数据库中方便之后处理。Spark SQL是Spark自带的数据库，本关你将应用Spark SQL的数据导入工具实现文本数据的导入。总的来说，就是预先给一个网页PR值（此处用PR代替PageRank值），由于P
（头哥）Spark环境搭建与使用
【代码】Spark环境搭建与使用。
Spark实战：词频统计
在Spark实战中，我们通过Scala和Python两个版本分别实现了词频统计的功能。首先，我们从文本文件中创建了RDD，然后按空格拆分进行扁平化映射，接着将单词数组映射成二元组数组，之后对二元组数组进行按键归约，最后将词频统计结果按次数降序排列。在分步实现的基础上，我们还可以通过一步命令直接完成整
spark君第一篇图文讲解Delta源码和实践的文章
手绘了下图所示的kafka知识大纲流程图（xmind文件不能上传，导出图片展现），但都可提供源文件给每位爱学习的朋友《一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码》点击传送门，即可获取！手绘了下图所示的kafka知识大纲流程图（xmind文件不能上传，导出图片展现），但都
实验2-spark编程
（1）通过实验掌握Spark的基本编程方法；（2）熟悉RDD到DataFrame的转化方法；（3）熟悉利用Spark管理来自不同数据源的数据。
深入理解Spark BlockManager：定义、原理与实践
Spark是一个开源的大数据处理框架，其主要特点是高性能、易用性以及可扩展性。在Spark中，BlockManager是其核心组件之一，
数据仓库 vs 数据湖 vs 湖仓一体：如何基于自身数据策略，选择最合适的数据管理方案？
一文读懂数据仓库、数据湖、湖仓一体的区别，找准更适合的数据策略。结合大型视频流平台、电商、医疗等行业场景深入剖析。
spark实验三-spark进阶编程
掌握使用spark自定义分区掌握打包spark工程掌握通过spark-submit提交应用实验说明先有一份某年度中国女排集训运动员数据文件 Volleyball_Plaryer.csv ，数据字段说明如下表所示现要求在IntelliJ IDEA 中进行spark编程，通过自定义分区实现将运动员按照所
Spark实战项目：电商数据分析
1.背景介绍1. 背景介绍电商数据分析是一项非常重要的技能，它可以帮助企业了解消费者行为、优化商品推荐、提高销售额等。随着数据规模的增加，传统的数据处理方法已经无法满足需求。因此，需要一种高效、可扩展的大数据处理框架来处理这些复杂的数据。Apache Spark是一个开源的大数据处理框架，它可以处理
Spark在AI和深度学习中的应用
1.背景介绍1. 背景介绍Apache Spark是一个开源的大规模数据处理框架，它可以处理批量数据和流式数据，并提供了一个易用的编程模型。Spark在大数据领域得到了广泛的应用，但是在AI和深度学习领域的应用却相对较少。然而，随着数据量的增加，Spark在AI和深度学习领域的应用也逐渐崛起。在本文
Spark-机器学习（1）什么是机器学习与MLlib算法库的认识
从这一系列开始，我会带着大家一起了解我们的机器学习，了解我们spark机器学习中的MLIib算法库，知道它大概的模型，熟悉并认识它。同时，本篇文章为个人spark免费专栏的系列文章，有兴趣的可以收藏关注一下，谢谢。同时，希望我的文章能帮助到每一个正在学习的你们。也欢迎大家来我的文章下交流讨论，共同进
