解释 Spark 中的数据分区是如何工作的及其对性能的影响？

Explain how data partitioning works in Spark and its impact on performance.

题目类型: 技术面试题

这是一道技术面试题，常见于澳洲IT公司面试中。

难度: medium

分类: Databricks, Company: Databricks

标签: Databricks, Spark Ops

参考答案摘要

答案 分区决定数据在集群上的分布与并行度：分区过多会增加调度与 shuffle 开销，过少会造成资源闲置与单 task 过大。 应让分区大小适中，并尽量让分区列与常用过滤/join 键匹配以减少 shuffle。

本题提供 STAR 原则详细解答和技术解析，登录匠人学院学习中心即可查看完整答案。