التوسّع وموازنة الأحمال

طريقان إلى نفس الفكرة

قبل أن تبدأ

الفكرة الجوهرية

1قدّر بالأرقام

قبل أي مخطط، احسب. هذه دالة صغيرة تحوّل أرقام العمل إلى طلبات بالثانية وعدد خوادم:

import math

def estimate(daily_users, requests_per_user, peak_factor, rps_per_server):
    average = daily_users * requests_per_user / 86_400
    peak = average * peak_factor
    servers = math.ceil(peak / rps_per_server) + 1   # +1 so one can fail
    return round(average), round(peak), servers

for users in (10_000, 1_000_000):
    avg, peak, servers = estimate(users, requests_per_user=30, peak_factor=5, rps_per_server=200)
    print(f"{users:>9,} users: avg {avg} rps, peak {peak} rps, servers {servers}")

2خوارزميات الموازنة

Round robin يوزع بالدور، وأقل اتصالات يختار الأقل انشغالًا، وهو أفضل حين تختلف مدد الطلبات. محاكاة بطلبات بعضها ثقيل:

from itertools import cycle

requests = [5, 1, 1, 5, 1, 1, 5, 1, 1]   # seconds of work per request
servers = ["A", "B", "C"]

def round_robin(jobs):
    load = dict.fromkeys(servers, 0)
    for job, server in zip(jobs, cycle(servers)):
        load[server] += job
    return load

def least_loaded(jobs):
    load = dict.fromkeys(servers, 0)
    for job in jobs:
        target = min(load, key=load.get)
        load[target] += job
    return load

print("round robin :", round_robin(requests))
print("least loaded:", least_loaded(requests))

3بلا حالة

لو حفظ الخادم A جلسة المستخدم في ذاكرته، ثم أرسل الموازن الطلب التالي إلى B، يجد المستخدم نفسه خارج حسابه. انقل الجلسة لمكان مشترك:

Stateful (breaks when scaled):
  server A memory: {session_42: {user: "sara", cart: [...]}}
  next request -> server B -> "who are you?"

Stateless (scales):
  any server -> Redis: GET session:42 -> {user: "sara", cart: [...]}
  uploaded files -> object storage, not local disk

مثال محلول

المسألة: تطبيق حجوزات يتوقع 200 ألف مستخدم يوميًا، كل واحد 20 طلبًا، والذروة 6 أضعاف. الحساب: 200,000 × 20 ÷ 86,400 ≈ 46 طلبًا/ث متوسط، و≈ 278 في الذروة. خادم يتحمل 150 طلبًا/ث، فنحتاج 2 + 1 احتياطي = 3. النتيجة: ثلاثة خوادم بلا حالة خلف موازن، لا مئة خدمة مصغّرة.

خرافة مقابل حقيقة

أين تقابله في العمل

اختبر فهمك

بطاقات مراجعة سريعة

تحقق من فهمك