美文网首页
宽窄依赖与Spark开发流程

宽窄依赖与Spark开发流程

作者: 436048bfc6a1 | 来源:发表于2019-03-09 22:32 被阅读0次
  1. 窄依赖(narrow dependency)

1.1 定义

一个父RDD的partition至少被子RDD的某个partition使用一次

1.2 Example


map.png
union.png
joinWithInputCo-partition.png

1.3 窄依赖优点

没有data re-distribution, 窄依赖错误恢复更容易
  1. 宽依赖

2.1 宽依赖定义

一个父RDD的partitiom会被子RDD的partition使用多次
groupByKey.png

相关文章

网友评论

      本文标题：宽窄依赖与Spark开发流程

      本文链接：https://www.haomeiwen.com/subject/dbtypqtx.html

      延伸阅读

      深度阅读

      • 您也可以注册成为美文阅读网的作者，发表您的原创作品、分享您的心情！

      栏目导航

      热点阅读

      关于我们|服务条款|联系我们|宽窄依赖与Spark开发流程|投稿指南|网站地图|RSS订阅|排版工具|手机版

      提供经典美文摘抄,优美散文欣赏,现代诗歌精选,短篇小说,心情随笔,表白情书范文,故事会在线阅读欣赏

      Copyright © 2014-2023 Haomeiwen.com All Rights Reserved. 好美文阅读网 版权所有

      备案信息：桂公网安备 45052102000051号 · 桂ICP备13007215号-3

      本站所收录作品、热点评论等信息部分来源互联网，目的只是为了系统归纳学习和传递资讯

      所有作品版权归原创作者所有，与本站立场无关，如不慎侵犯了你的权益，请联系我们告知，我们将做删除处理！