如何处理 Databricks 等分布式计算环境中的数据偏斜？

How do you handle data skew in distributed processing (e.g., Databricks)?

题目类型: 技术面试题

这是一道技术面试题，常见于澳洲IT公司面试中。

难度: medium

分类: Databricks, Company: Databricks

标签: Databricks, Data Processing

参考答案摘要

答案 数据偏斜常见于 join/groupBy 的 key 分布极不均匀，导致少数 task 特别慢。可用 salting、预聚合/拆分热点 key、广播小表、调整分区等策略。 结合 Spark UI 确认 skew，并利用 AQE 的 skew join 优化进一步缓解。

本题提供 STAR 原则详细解答和技术解析，登录匠人学院学习中心即可查看完整答案。