الهدف
بعد هالدرس تقدر تضيف cache_control لأي system prompt طويل وتشوف الفرق في التكلفة بين الـ call الأولى والثانية.
ليش هذا الحين؟
Tool use جاهز. الحين نتكلم فلوس — Prompt Caching أقوى تحسين لتكلفة الـ API للـ apps الحقيقية.
الفكرة
بدون Caching:
كل request:
System prompt (5000 tokens) = تنحسب في كل request
100 request/يوم × 5000 tokens × $3/M = $1.50/يوم
مع Caching:
Request 1: cache creation = 5000 tokens بسعر عادي
Request 2-100: cache read = 5000 tokens بخصم 90%
100 request × 500 tokens (10% بس) × $3/M = $0.15/يوم
وفّرت: $1.35/يوم = $40/شهر