Spark SourceCode Analysis:Apache Spark笔记本 spark source code

Spark-SourceCode分析 Apache Spark笔记本作者:祁传宏军 Spark简介 Spark起源自科研院所,加州大学伯克利分校UC Berkeley的AMP实验室。该校在edx上开设了系列课程:)“使用Spark XSeries进行数据科学与工程”。 08,09年起,一说到大数据,大家就想到Hadoop。但是这两年,Spark迅猛发展。 Spark是Hadoop生态圈的一环。Spark是一种计算框架,16年开始爆发,现在已经基本取代了Hadoop中的Map Reduce。 计算框架:Spark是一种计算框架,没有资源调度,数据存储等功能。需要和生态圈内的其他框架配合使用。 内存计算:Hadoop中本机的Map Reduce是基于磁盘的,对于需要反复重复的算法,中间结果重复转移插入磁盘,产生大量的I / O和序列化/反序列化堆积。而Spark的核心Spark Core在内