MapReduce工作原理.docx

上传人:人*** 文档编号:14680498 上传时间:2022-11-25 格式:DOCX 页数:13 大小:395.50KB
下载 相关 举报
MapReduce工作原理.docx_第1页
第1页 / 共13页
MapReduce工作原理.docx_第2页
第2页 / 共13页
MapReduce工作原理.docx_第3页
第3页 / 共13页
MapReduce工作原理.docx_第4页
第4页 / 共13页
MapReduce工作原理.docx_第5页
第5页 / 共13页
点击查看更多>>
资源描述

MapReduce工作原理1MapReduce原理(一)1.1MapReduce编程模型MapReduce采用分而治之的思想,把对大规模数据集的操作,分发给一个主节点管理下的各个分节点共同完成,然后通过整合各个节点的中间结果,得到最终结果。简单地说,MapReduce就是任务的分解与结果的汇总。在Hadoop中,用于执行MapReduce任务的机器角色有两个:一个是TobTracker;另一个是TaskTracker,JobTracker是用于调度工作的,TaskTracker是用于执行工作的。一个Hadoop集群中只有一台JobTracker。在分布式计算中,MapReduce框架负责处理了并行编程中分布式存储、工作调度、负载均衡、容错均衡、容错处理以及网络通信等复杂问题,把处理过程高度抽象为两个函数:map和reduce,map负责把任务分解成多个任务reduce负责把分解后多任务处理的结果汇总起来。需要注意的是,用MapReduce来处理的数据集(或任务)必须具备这样的特点:待处理的数据集可以分解成许多小的数据集,而且每一个小数据集都可以完全并行

展开阅读全文
相关资源
相关搜索

当前位置:首页 > 重点行业资料库 > 商业租赁

Copyright © 2018-2021 Wenke99.com All rights reserved

工信部备案号浙ICP备20026746号-2  

公安局备案号:浙公网安备33038302330469号

本站为C2C交文档易平台,即用户上传的文档直接卖给下载用户,本站只是网络服务中间平台,所有原创文档下载所得归上传人所有,若您发现上传作品侵犯了您的权利,请立刻联系网站客服并提供证据,平台将在3个工作日内予以改正。