هندسة السياق

طريقان إلى نفس الفكرة

قبل أن تبدأ

الفكرة الجوهرية

نافذة السياق مساحة محدودة ومدفوعة. في هذا الدرس تختار ما يدخلها بميزانية وعتبة، ثم ترتّبه، ثم تقلّم المحادثة، ثم تجمع كل ذلك في قالب واحد.

1ميزانية وعتبة

نافذة السياق سقف لا هدف. تضع حدًّا للرموز المسترجعة، وعتبة جودة لا يدخل تحتها شيء، ثم تملأ بالأفضل أولًا.

انظر إلى الرسم: ست قطع مسترجعة لسؤال عن الإجازة، بدرجات تشابهها. العتبة 0.5 تُخرج آخر اثنتين قبل أن نحسب أي ميزانية.

chunks = [
    ("leave policy, section 2", 0.82, 420),
    ("leave policy, section 5", 0.79, 380),
    ("holiday calendar 2026", 0.61, 900),
    ("leave policy, section 1", 0.58, 300),
    ("HR newsletter, March", 0.41, 1200),
    ("travel policy", 0.33, 650),
]
budget = 1500    # tokens we allow for retrieved text

picked, used = [], 0
for name, score, tokens in sorted(chunks, key=lambda c: -c[1]):
    if score < 0.5:
        break                         # below this, more text adds noise, not answers
    if used + tokens <= budget:
        picked.append(name)
        used += tokens
print("picked:", picked)
print("tokens used:", used, "of", budget)

دخلت ثلاث قطع من سياسة الإجازات. تقويم العطل (0.61) تُرك لأنه لا يتّسع بعد أول قطعتين، والنشرة الإخبارية وسياسة السفر تُركتا لأنهما تحت العتبة. 1100 رمز بدل 3850 لو أرسلنا الكل: أرخص بثلاث مرات ونصف، وأقل تشتيتًا للنموذج.

2ترتيب الساندويتش

النماذج تنتبه لبداية السياق ونهايته أكثر من وسطه. اسم هذه النتيجة البحثية «الضياع في المنتصف»: الدقة تنخفض حين تكون المعلومة المطلوبة في وسط سياق طويل.

انظر إلى الرسم: خمس قطع بدرجاتها. الأقوى في الطرفين، والأضعف في الوسط حيث ينتبه النموذج أقل.

بدل الترتيب التنازلي البسيط، نضع الأفضل أولًا والثاني آخرًا، وهكذا نحو الوسط.

def sandwich(chunks):
    """Best chunk first, second best last, the weakest in the middle."""
    ranked = sorted(chunks, key=lambda c: -c[1])
    front, back = [], []
    for i, c in enumerate(ranked):
        (front if i % 2 == 0 else back).append(c)
    return front + back[::-1]

chunks = [("A", 0.91), ("B", 0.85), ("C", 0.70), ("D", 0.62), ("E", 0.55)]
print("by score:  ", [c[0] for c in sorted(chunks, key=lambda c: -c[1])])
print("sandwiched:", [c[0] for c in sandwich(chunks)])

A في البداية وB في النهاية، والأضعف E في الوسط حيث ينتبه النموذج أقل. هل يحسّن هذا نتائجك فعلًا؟ لا تفترض: شغّل مجموعة الأسئلة الذهبية (الدرس القادم) بالترتيبين وقارن الرقم. أثر هذه الحيلة يختلف بين النماذج، ويقلّ مع النماذج الأحدث.

3تقليم المحادثة

المحادثة الطويلة تأكل الميزانية، لأن كل طلب يحملها كلها. احذف ما لا يحتاجه السؤال الحالي، واحفظ الحقائق المهمة في سطر واحد.

نحتفظ بآخر أربعة أدوار، ونستبدل ما قبلها بسطر حقائق، ونحذف أكثر إن تجاوزنا الميزانية.

history = [("user", "I need leave next week"), ("assistant", "Which days?"),
           ("user", "Sunday to Tuesday"), ("assistant", "That is 3 days. Annual or sick?"),
           ("user", "Annual"), ("assistant", "Done, request 1043 submitted."),
           ("user", "Can I cancel it?")]

def tokens(text):
    return len(text.split()) + 3

def fit(history, budget, keep_last=4):
    recent = history[-keep_last:]
    older = history[:-keep_last]
    facts = "Earlier: user asked for annual leave Sunday-Tuesday, request 1043 submitted." if older else ""
    msgs = ([("system", facts)] if facts else []) + recent
    while sum(tokens(t) for _, t in msgs) > budget and len(msgs) > 2:
        msgs.pop(1)
    return msgs

for role, text in fit(history, budget=40):
    print(f"{role:9} {text}")

سؤال «هل أستطيع إلغاءه؟» يحتاج رقم الطلب 1043، وهو باقٍ في سطر الحقائق وفي آخر رد. الأيام بالتفصيل حُذفت لأنها لا تهمّ هذا السؤال. في نظام حقيقي يكتب سطر الحقائق نموذج صغير رخيص يلخّص الأدوار القديمة، وتختبر جودته على محادثات حقيقية.

4قالب سياق كامل

السياق الجيد له بنية ثابتة في كل طلب. انظر إلى الرسم: رسالة النظام بالدور والقيود وشكل الإجابة، ثم المستندات داخل وسم <documents> ولكل منها معرّف، ثم السؤال في الآخر.

SYSTEM = """أنت مساعد يجيب عن سياسات الموارد البشرية في الشركة.
أجب من المستندات المرفقة فقط، واذكر معرّف المستند بين قوسين مربعين بعد كل معلومة.
إن لم تجد الإجابة في المستندات، فقل ذلك صراحة ولا تخمّن."""

def build_messages(question, chunks):
    docs = "\n".join(f'<doc id="{c.id}">{c.text}</doc>' for c in chunks)
    return [
        {"role": "system", "content": SYSTEM},
        {"role": "user", "content": f"<documents>\n{docs}\n</documents>\n\nالسؤال: {question}"},
    ]

رسالة النظام ثابتة حرفيًّا بين الطلبات، فتستفيد من التخزين المؤقت. والمستندات بوسوم ومعرّفات، والسؤال في الآخر. هذا القالب نقطة بداية، وكل تغيير فيه يُقاس على المجموعة الذهبية.

كيف يعمل، خطوة بخطوة: كيف تبني سياقًا لسؤال واحد

مثال محلول

تخيّل أن نظامك استرجع ست قطع لسؤال عن الإجازات، بدرجات تشابه مختلفة وأطوال مختلفة. الإغراء أن ترسلها كلها «احتياطًا». بدلًا من ذلك، ضع ميزانية رموز، وعتبة جودة، واملأ بالأفضل أولًا.

جرّب بلا كود

خرافة مقابل حقيقة

جرّب بنفسك

بطاقات مراجعة سريعة

تحقق من فهمك