如何优化 Spark 中的联接，尤其是在处理大型数据集时？

How do you optimize joins in Spark, especially for large datasets?

题目类型: 技术面试题

这是一道技术面试题，常见于澳洲IT公司面试中。

难度: medium

分类: Databricks, Company: Databricks

标签: Databricks, Spark Ops

参考答案摘要

答案 小表用 broadcast join，大表用 sort-merge 并确保 join key 分区合理；对 skew 做 salting 或启用 AQE skew join。 过滤/投影下推减少数据量，控制 shuffle 分区数，必要时预聚合或分桶改善性能。

本题提供 STAR 原则详细解答和技术解析，登录匠人学院学习中心即可查看完整答案。