Spark-机器学习（1）什么是机器学习与MLlib算法库的认识
从这一系列开始，我会带着大家一起了解我们的机器学习，了解我们spark机器学习中的MLIib算法库，知道它大概的模型，熟悉并认识它。同时，本篇文章为个人spark免费专栏的系列文章，有兴趣的可以收藏关注一下，谢谢。同时，希望我的文章能帮助到每一个正在学习的你们。也欢迎大家来我的文章下交流讨论，共同进
第一章：JAVA Spark的学习和开发【由浅入深】之搭建windows本地开发环境搭建
最近个人学习了一些大数据相关的开发技术，想分享给那些刚入门，不知道怎么入手开发的小伙伴们。文本主要介绍了如果在windows的环境下搭建单机版spark应用程序【java】基本的搭建步骤都在上面了，有不对的环节或者按步骤搭建完成不能用的同学，欢迎留言评论。
使用Python进行大数据处理Dask与Apache Spark的对比
Dask是一个灵活的并行计算库，它允许您以类似于NumPy、Pandas和Scikit-learn的方式处理大规模数据。它提供了类似于这些库的API，同时能够自动分布计算任务到集群上。在本文中，我们对Dask和Apache Spark进行了全面的对比，涵盖了它们的性能、API和生态系统等方面。Das
Spark重温笔记（一）：一分钟部署PySpark环境，轻松上手Spark配置
Spark 是一种快速、通用、可扩展的大数据分析引擎，2009 年诞生于加州大学伯克利分校。1-速度快：其一、Spark处理数据时，可以将中间处理结果数据存储到内存中其二、spark job调度以DAG方式，每个任务Task以线程Thread方式，而不是mapreduce以进程process方式2-
Spark-机器学习（2）特征工程之特征提取
今天的文章，我会带着大家一起了解我们的特征提取和我们的tf-idf，word2vec算法。希望大家能有所收获。同时，本篇文章为个人spark免费专栏的系列文章，有兴趣的可以收藏关注一下，谢谢。同时，希望我的文章能帮助到每一个正在学习的你们。也欢迎大家来我的文章下交流讨论，共同进步。
实验五 Spark SQL编程初级实践
实验五 Spark SQL编程初级实践，从零开始，教你安装，有详细图表和注释。新手小白也可以学会
Pyspark库以及环境配置
一、pyspark类库类库：一堆别人写好的代码，可以直接导入使用，例如Pandas就是Python的类库。框架：可以独立运行，并提供编程结构的一种软件产品，例如Spark就是一个独立的框架。PySpark是Spark官方提供的一个Python类库，内置了完全的Spark API，可以通过PySpar
spark基本原理&UI界面解读
一级入口重点内容executors不同executors之间，是否存在负载倾斜不同executors之间，是否存在负载倾斜storage分布式数据集的缓存级别，内存，磁盘缓存比例SQL初步了解不同执行计划的执行时间，确实是否符合预期jobs初步感知不同jobs的执行时间，确实是否符合预期stage初
每天十分钟学会Spark【期末必看系列】
小白学大数据Spark编程第3课
实验五 Spark Streaming编程初级实践
注意，上面命令中，“localhost:9092 wordsender 3 5”是提供给KafkaWordProducer程序的4个输入参数，第1个参数“localhost:9092”是Kafka的Broker的地址，第2个参数“wordsender”是Topic的名称，我们在KafkaWordCo
HDFS常用操作以及使用Spark读取文件系统数据
在HDFS中的“/user/hadoop”目录下，创建子目录input，把HDFS中“/user/hadoop”目录下的test.txt文件，复制到“/user/hadoop/input”目录下；删除HDFS中“/user/hadoop”目录下的test.txt文件，删除HDFS中“/user/ha
Spark-机器学习（4）回归学习之逻辑回归
今天的文章，我们来学习我们回归中的逻辑回归，并带来简单案例，学习用法。希望大家能有所收获。同时，希望我的文章能帮助到每一个正在学习的你们。也欢迎大家来我的文章下交流讨论，共同进步。
Spark01 —— Spark基础
Spark基础为什么选择Spark?Spark基础配置Spark WordCount实例Spark运行架构Spark分区Spark算子Spark优化
Spark-机器学习（7）分类学习之决策树
今天的文章，我们来学习分类学习之决策树，并带来简单案例，学习用法。希望大家能有所收获。同时，希望我的文章能帮助到每一个正在学习的你们。也欢迎大家来我的文章下交流讨论，共同进步。
今天来认识一下无聊的spark和scala基础理知识
Spark 应用程序计算的整个过程可以调用不同的组件，如 Spark Streaming 的实时流处理应用、SparkSQL的即席查询、BlinkDB 的权衡查询、MLlib/MLBase 的机器学习、GraphX的图处理和SparkR的数学计算等。Scala 是一种纯粹的面向对象的语言，每个值都是
Spark SQL
Spark为结构化数据处理引入了一个称为Spark SQL的编程模块。它提供了一个称为DataFrame的编程抽象，并且可以充当分布式SQL查询引擎。
启动pyspark时：/usr/local/spark/bin/pyspark: 行 45: python: 未找到命令
启动pyspark时：/usr/local/spark/bin/pyspark: 行 45: python: 未找到命令的解决方法
IDEA软件中Scala配置安装教程（Spark计算环境搭建）
在com.atguigu.bigdata.spark.core 创建Scala class，命名为：Test ，选择object。在Java创建 new package，命名为：com.atguigu.bigdata.spark.core。print（“hello world”）进行验证，之后进行运
Spark的易用性：易用性工具和实践
1.背景介绍1. 背景介绍Apache Spark是一个开源的大规模数据处理框架，它提供了易用性工具和实践，以便开发人员可以更轻松地处理大量数据。Spark的易用性是其吸引人的特点之一，因为它允许开发人员在短时间内构建和部署大规模数据处理应用程序。在本文中，我们将探讨Spark的易用性工具和实践，并
spark和scala环境安装与部署，有手就行
source /etc/profile使环境变量生效，接着scala -version查看是否安装成功，出现画线版本号即为成功。解压安装包 tar -zxvf /opt/scala2.12.12.tgz -C /opt/9.查看spark是否安装成功 返回主目录下输入spark-submit -
