الاستدلال والنشر
التجميع المستمر / PagedAttention
تقنيات تقديم تقبل الطلبات وتُنهيها باستمرار مع إدارة ذاكرة KV في صفحات. وهما معًا يحسّنان الاستغلال والإنتاجية تحت أحمال متغيّرة الطول.
المصطلحات الأساسية
- جدولة الطلبات (request scheduling)
- ترحيل الذاكرة (memory paging)
- الإنتاجية (throughput)
- التقديم (serving)
الروابط عبر المشروع
يبني على
يُستخدَم في
السياق التاريخي
المصادر الأولية
هذه خريطة تقنية منتقاة، لا ادّعاء بتغطية شاملة.