任务提交层与 worker 层如何做 rate limiting？分别要限制什么，为什么需要最大并发（max concurrency）控制？

How do you implement rate limiting at the job submission level and at the worker level? What do you limit in each layer, and why do you need max concurrency controls?

题目类型: 技术面试题

这是一道技术面试题，常见于澳洲IT公司面试中。

难度: medium

分类: system-design, performance

标签: rate-limiting, job-submission, worker-concurrency, throttling, overload-protection

参考答案摘要

TL;DR rate limiting 需要在两层做： 提交层 防止单一 client 大量提交导致调度系统过载； worker 层 限制单 worker 同时执行任务数，避免 CPU/内存/DB 被压垮。通过 max concurrency 控制执行并发度，可以避免基础设施崩溃与系统雪崩。 1）Job Submission Level Rate Limiting 目标：防止大量 job subm...

本题提供 STAR 原则详细解答和技术解析，登录匠人学院学习中心即可查看完整答案。