Spark 的 Partition 是什么？为什么需要 Partition？

Define Partitions.

题目类型: 技术面试题

这是一道技术面试题，常见于澳洲IT公司面试中。

难度: medium

分类: Spark 性能, 分区

标签: partition, logical-division, mapreduce-split, performance

参考答案摘要

定义 Partition 是数据的一个更小的、逻辑上的划分，类似 MapReduce 的 split。 Partitioning 的目标是将数据拆成逻辑单元以加速处理。Spark 中的一切本质上都可以看作是分区化的 RDD。

本题提供 STAR 原则详细解答和技术解析，登录匠人学院学习中心即可查看完整答案。