Load balancing 让我们把 incoming network traffic 分配到多个 resources，只把请求发给在线的节点，从而保证 high availability 与 reliability。这也让我们可以按 demand 灵活增减 resources。

为了更高的 scalability 和 redundancy，系统的不同层都可以做 load balancing：

为什么需要 load balancing？