Hadoop--MapReduce详解

  前面的几篇博客主要介绍了Hadoop的存储HDFS,接下来几篇博客主要介绍Hadoop的计算框架MapReduce。当然这方面的技术博客已经特别多而且都写得很优秀,我写本篇博客之前也有过相关阅读,受益匪浅。对一些博客和资料的参考都会才博客下方参考资料中列出。

  • 本片博客主要讲解:
  1. 理解MapReduce具体是个什么东西
  2. 通过具体代码来体现一下MapReduce
  3. MapReduce具体的流程和运行机制

理解MapReduce

  • MapRedeuce,我们可以把它分开来理解:
  1. Mapping对集合里的每个目标应用同一个操作。即,如果你想把表单里每个单元格乘以二,那么把这个函数单独地应用在每个单元格上的操作就属于mapping(这里体现了移动计算而不是移动数据);
  2. Reducing遍历集合中的元素来返回一个综合的结果。即,输出表单里一列数字的和这个任务属于reducing。
  • 计算框架
    一个简单的MapReduce执行流程
    简单理解,MapReduce计算框架(一个输入和输出的过程)

    把需要计算的东西放入到MapReduce中进行计算,然后返回一个我们期望的结果。所以首先我们需要一个来源(需要计算的东西)即输入(input),然后MapReduce操作这个输入(input),通过定义好的计算模型,最后得到一个(期望的结果)输出(output)。

  • 计算模型
    Map和Reduce
    在这里我们主要讨论的是MapReduce计算模型

    在运行一个mapreduce计算任务时候,任务过程被分为两个阶段:map阶段和reduce阶段,每个阶段都是用键值对(key/value)作为输入(input)和输出(output)。而程序员要做的就是定义好这两个阶段的函数:map函数和reduce函数。

实例代码

  • 以MapReduce统计单词次数为例(伪代码),主要四个模块来讲解,如上图计算框架:
    ①、输入
    ②、map计算
    ③、reduce计算
    ④、输出
  1. Input,数据读入

    1
    2
    3
    4
    5
    6
    // 设置数据输入来源
    FileInputFormat.setInputPaths(job, args[0]);
    FileInputFormat.setInputDirRecursive(job, true); //递归
    job.setInputFormatClass(TextInputFormat.class); //设置输入格式

    //TextInputFormat,一种默认的文本输入格式,Mapper一次读取文本中的一行数据。
  2. 使用Mapper计算

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    29
    30
    31
    32
    33
    34
    35
    //设置Job的Mapper计算类和K2、V2类型
    job.setMapperClass(WordCountMapper.class); //1.设置Mapper类
    job.setMapOutputKeyClass(Text.class); //设置Mapper输出Key的类型
    job.setMapOutputValueClass(LongWritable.class);//设置Mapper输出Value的类型

    //WordCountMapper类
    /**
    * 自定义的Map 需要继承Mapper
    * K1 : 行序号
    * V1 : 行信息
    * K2 : 单词
    * V2 : 次数
    */

    public static class WordCountMapper extends Mapper<LongWritable,Text,Text,LongWritable> {

    Text k2 = new Text() ;
    LongWritable v2 = new LongWritable();

    @Override
    protected void map(LongWritable key, Text value, Context context)
    throws IOException, InterruptedException {


    //1. 获取行信息
    String line = value.toString();

    //2. 获取行的所用单词
    String[] words = line.split("\t");//这里假设一行文本单词分隔符为"\t"
    for (String word : words) {
    k2.set(word.getBytes()) ; //设置键
    v2.set(1); //设置值
    context.write(k2,v2);
    }

    }
    }
  3. 使用Reducer合并计算

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    //设置Job的Reducer计算类和K3、V3类型
    job.setReducerClass(WordCountReducer.class); //自定义的Reducer类
    job.setOutputKeyClass(Text.class); //输出Key类型
    job.setOutputValueClass(LongWritable.class); //输出Value类型

    //WordCountReducer 类
    /**
    * 自定义的Reduce 需要继承Reducer
    * K2 : 字符串
    * V3 : 次数(分组)
    * K3 : 字符串
    * V3 : 次数(统计总的)
    */

    public static class WordCountReducer extends Reducer<Text,LongWritable,Text,LongWritable>{

    LongWritable v3 = new LongWritable() ;
    int sum = 0 ;
    @Override
    protected void reduce(Text key, Iterable<LongWritable> values, Context context)
    throws IOException, InterruptedException {

    sum = 0 ;
    for (LongWritable value : values) {
    sum +=value.get() ;
    }
    v3.set(sum);
    context.write( key , v3 );
    }
    }
  4. Output,数据写出

    1
    FileOutputFormat.setOutputPath(job, new Path(args[1]));

MapReduce运行机制

  • 下面从两个方面来讲解MapReduce的运行机制:
  1. 角色职责;
  2. 图说MapReduce
    MapReduce计算模型的运行机制

角色职责

  1. 程序运行时过程设计到的一个角色实体
    1.1. Client:编写mapreduce程序,配置作业,提交作业的客户端 ;
    1.2. ResourceManager:集群中的资源分配管理 ;
    1.3. NodeManager:启动和监管各自节点上的计算资源 ;
    1.4. ApplicationMaster:每个程序对应一个AM,负责程序的任务调度,本身也是运行在NM的Container中 ;
    1.5. HDFS:分布式文件系统,保存作业的数据、配置信息等等。

  2. 客户端提交Job
    2.1. 客户端编写好Job后,调用Job实例的Submit()或者waitForCompletion()方法提交作业;
    2.2. 客户端向ResourceManager请求分配一个Application ID,客户端会对程序的输出、输入路径进行检查,如果没有问题,进行作业输入分片的计算。

  3. Job提交到ResourceManager
    3.1. 将作业运行所需要的资源拷贝到HDFS中(jar包、配置文件和计算出来的输入分片信息等);
    3.2. 调用ResourceManager的submitApplication方法将作业提交到ResourceManager。

  4. 给作业分配ApplicationMaster
    4.1. ResourceManager收到submitApplication方法的调用之后会命令一个NodeManager启动一个Container ;
    4.2. 在该NodeManager的Container上启动管理该作业的ApplicationMaster进程。

  5. ApplicationMaster初始化作业
    5.1. ApplicationMaster对作业进行初始化操作;
    5.2. ApplicationMaster从HDFS中获得输入分片信息(map、reduce任务数)

  6. 任务分配
    6.1. ApplicationMaster为其每个map和reduce任务向RM请求计算资源;
    6.2. map任务优先于reduce任,map数据优先考虑本地化的数据。

  7. 任务执行,在 Container 上启动任务(通过YarnChild进程来运行),执行map/reduce任务。

图说MapReduce

MapReduce详细的执行流程

  1. 输入分片(input split)
    一个大的文件会根据block块切分成多个分片,每个输入分片会让一个map任务来处理(默认情况下,HDFS的块为128M作为一个分片)。
    例如一个300MB的文件就会被切分问3个分片(128MB InputSplit、128MB InputSplit、44MB InputSplit),交给三个map任务去处理。

  2. map任务阶段:由我们自己编写,最后调用 context.write(…);
    map输出的结果会暂且放在一个环形内存缓冲区中(默认mapreduce.task.io.sort.mb=100M),当该缓冲区快要溢出时(默认mapreduce.map.sort.spill.percent=0.8),会在本地文件系统中创建一个溢出文件,将该缓冲区中的数据写入这个文件;

  3. partition分区阶段
    3.1. 在map中调用 context.write(k2,v2)方法输出,该方法会立刻调用 Partitioner类对数据进行分区,一个分区对应一个 reduce task。
    3.2. 默认的分区实现类是 HashPartitioner ,根据k2的哈希值 % numReduceTasks,可能出现“数据倾斜”现象。
    3.3. 可以自定义 partition ,调用 job.setPartitioner(…)自己定义分区函数。

  4. combiner合并阶段:将属于同一个reduce处理的输出结果进行合并操作
    4.1. 是可选的;
    4.2. 目的有三个:1.减少Key-Value对;2.减少网络传输;3.减少Reduce的处理。

  5. shuffle阶段:即Map和Reduce中间的这个过程
    5.1. 首先 map 在做输出时候会在内存里开启一个环形内存缓冲区,专门用来做输出,同时map还会启动一个守护线程;
    5.2. 如缓冲区的内存达到了阈值的80%,守护线程就会把内容写到磁盘上,这个过程叫spill,另外的20%内存可以继续写入要写进磁盘的数据;
    5.3. 写入磁盘和写入内存操作是互不干扰的,如果缓存区被撑满了,那么map就会阻塞写入内存的操作,让写入磁盘操作完成后再继续执行写入内存操作;
    5.4. 写入磁盘时会有个排序操作,如果定义了combiner函数,那么排序前还会执行combiner操作;
    5.5. 每次spill操作也就是写入磁盘操作时候就会写一个溢出文件,也就是说在做map输出有几次spill就会产生多少个溢出文件,等map输出全部做完后,map会合并这些输出文件,这个过程里还会有一个Partitioner操作(如上)
    5.6. 最后 reduce 就是合并map输出文件,Partitioner会找到对应的map输出文件,然后进行复制操作,复制操作时reduce会开启几个复制线程,这些线程默认个数是5个(可修改),这个复制过程和map写入磁盘过程类似,也有阈值和内存大小,阈值一样可以在配置文件里配置,而内存大小是直接使用reduce的tasktracker的内存大小,复制时候reduce还会进行排序操作和合并文件操作,这些操作完了就会进行reduce计算了。

  6. reduce阶段:由我们自己编写,最终结果存储在hdfs上的,具体在图中就能看出了,就不一一阐述了。

当前网速较慢或者你使用的浏览器不支持博客特定功能,请尝试刷新或换用Chrome、Firefox等现代浏览器