logo

MapReduce 中 Shuffling 和 Sorting 是什么?为什么它们重要?

What is Shuffling and Sorting in MapReduce?

题目类型: 技术面试题

这是一道技术面试题,常见于澳洲IT公司面试中。

难度: medium

分类: MapReduce Internals, Shuffle

标签: shuffle, sort, network, partition, reduce

参考答案摘要

Shuffling & Sorting 的定义(MapReduce 语境) 在 MapReduce 中, map 输出到 reduce 之前会自动排序 ,并按 key 将数据分发到对应 reducer。 Shuffling(洗牌) 含义 :在 map 与 reduce 之间,把中间结果按 key 重新分布,把相同 key 的数据发送到同一个 reducer。 为什么重要 :保证 reducer 能...

本题提供 STAR 原则详细解答和技术解析,登录匠人学院学习中心即可查看完整答案。

← 返回面试题库

MapReduce 中 Shuffling 和 Sorting 是什么?为什么它们重要?

Mediumsystem-design

想查看完整答案?

登录匠人学院学习中心,获取 STAR 格式回答和详细技术解析

前往学习中心查看答案