1. 首页
  2. 数据库
  3. 其它
  4. Spark源码系列(一)spark submit提交作业过程

Spark源码系列(一)spark submit提交作业过程

上传者: 2021-02-01 16:51:24上传 PDF文件 118.37KB 热度 16次
折腾了很久,终于开始学习Spark的源码了,第一篇我打算讲一下Spark作业的提交过程。这个是Spark的App运行图,它通过一个Driver来和集群通信,集群负责作业的分配。今天我要讲的是如何创建这个Driver Program的过程。我们先看一下用SparkSubmit提交的方法吧,下面是从官方上面摘抄的内容。这个是提交到standalone集群的方式,打开spark-submit这文件,我们会发现它最后是调用了org.apache.spark.deploy.SparkSubmit这个类。我们直接进去看就行了,main函数就几行代码
用户评论