您能否解释一下 Spark 中 shuffle 的概念及其对性能的影响？

Explain shuffle in Spark and its impact on performance.

题目类型: 技术面试题

这是一道技术面试题，常见于澳洲IT公司面试中。

难度: medium

分类: Databricks, Company: Databricks

标签: Databricks, Spark Ops

参考答案摘要

答案 Shuffle 是跨分区的数据重分布，常见于 join/groupBy/sort，会带来网络 I/O 与磁盘 spill，是主要性能瓶颈。 通过减少 shuffle、控制分区数、处理 skew、启用 AQE 等优化。

本题提供 STAR 原则详细解答和技术解析，登录匠人学院学习中心即可查看完整答案。