博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
第2节 mapreduce深入学习:15、reduce端的join算法的实现
阅读量:4519 次
发布时间:2019-06-08

本文共 447 字,大约阅读时间需要 1 分钟。

reduce端的join算法:

例子:

商品表数据 product: 

pid
p0001,小米5,1000,2000
p0002,锤子T1,1000,3000

订单表数据 order: 

           pid
1001,20150710,p0001,2
1002,20150710,p0002,3
1002,20150710,p0003,3

mapReduce可以实现sql语句的功能:select 。。。。。。from product p left join order o on p.pid = o.pid

 

思路:将关联的条件作为map输出的key。

 

缺点:这种方式中,join的操作是在reduce阶段完成,reduce端的处理压力太大,map节点的运算负载则很低,资源利用率不高,且在reduce阶段极易产生数据倾斜。

替代解决方案: map端join实现方式。

 

 详见代码

 

转载于:https://www.cnblogs.com/mediocreWorld/p/11028591.html

你可能感兴趣的文章
Oracle 的ORION工具简单使用
查看>>
局域网永恒之蓝病毒发包的解决方案之二
查看>>
红帽旗下Linux的版本说明RedHat、CentOS、Fedora、OEL等
查看>>
[转载]莫欺少年穷-----作者文笔真好
查看>>
jQuery快速入门知识重点
查看>>
写作(1~3)
查看>>
Hadoop数据类型
查看>>
LR中,URL -based script与HTML -based script区别
查看>>
清除IE中Ajax缓存,Chrome不需要
查看>>
日期时间格式化方法,可以格式化年、月、日、时、分、秒、周
查看>>
PairWork-电梯调度程序结对编程【附加题】
查看>>
Ext.Net学习笔记12:Ext.Net GridPanel Filter用法
查看>>
陪伴我走过春夏秋冬的校园
查看>>
bind()与connect()——计网中socket的使用
查看>>
ASP.NET WebApi 入门
查看>>
我想成为坐在路边鼓掌的人
查看>>
Html页面中Flash的播放,并利用JS变换Flash
查看>>
生成一条短信记录
查看>>
UNICODE,GBK,UTF-8区别
查看>>
HTML页面放大镜效果
查看>>