1. 首页
  2. 数据库
  3. 其它
  4. SparkContext的初始化

SparkContext的初始化

上传者: 2021-01-16 14:05:51上传 PDF文件 70.01KB 热度 11次
SparkContext的初始化步骤如下: 1 创建Spark执行环境SparkEnv 1.2 什么是SparkEnv? SparkEnv是Spark的执行环境对象,其中包括许多与Executor执行相关的对象,所以SparkEnv存在于需要创建Executor的进程中。那么需要创建Executor的进程有哪些呢? 在local模式下,Driver进程中会创建Executor。 在local-cluster模式或Standalone模式下,Worker中的CoarseGrainedExecutorBackend进程中也会创建Executor。 综上,SparkEnv存在于Driver或Coar
用户评论