1. 首页
  2. 数据库
  3. 其它
  4. Hadoop二次开发必懂(下)

Hadoop二次开发必懂(下)

上传者: 2021-02-01 18:54:22上传 PDF文件 987.57KB 热度 5次
Map的结果,会通过partition分发到Reducer上,Reducer做完Reduce操作后,通过OutputFormat,进行输出,下面我们就来分析参与这个过程的类。Mapper的结果,可能送到可能的Combiner做合并,Combiner在系统中并没有自己的基类,而是用Reducer作为Combiner的基类,他们对外的功能是一样的,只是使用的位置和使用时的上下文不太一样而已。Mapper最终处理的结果对,是需要送到Reducer去合并的,合并的时候,有相同key的键/值对会送到同一个Reducer那,哪个key到哪个Reducer的分配过程,是由Partit
用户评论