MapReduce 中 Shuffling 和 Sorting 是什么?为什么它们重要?
What is Shuffling and Sorting in MapReduce?
题目类型: 技术面试题
这是一道技术面试题,常见于澳洲IT公司面试中。
难度: medium
分类: MapReduce Internals, Shuffle
标签: shuffle, sort, network, partition, reduce
参考答案摘要
Shuffling & Sorting 的定义(MapReduce 语境) 在 MapReduce 中, map 输出到 reduce 之前会自动排序 ,并按 key 将数据分发到对应 reducer。 Shuffling(洗牌) 含义 :在 map 与 reduce 之间,把中间结果按 key 重新分布,把相同 key 的数据发送到同一个 reducer。 为什么重要 :保证 reducer 能...
本题提供 STAR 原则详细解答和技术解析,登录匠人学院学习中心即可查看完整答案。