بحث
العربية

منشورات من pythongiant.github.io

  1. KVBoost: تقليل تأخير أول رمز في LLM بمقدار 5 إلى 48 مرة عبر إعادة استخدام ذاكرة التخزين المؤقت KV، ويعمل بدون الحاجة إلى GPU(pythongiant.github.io)

    الملخصظهر KVBoost مفتوح المصدر على Hacker News. يقوم بتقسيم الإدخال إلى أجزاء صغيرة، ويضيف لها تجزئة، وعندما يعود نفس الجزء، يستخدم ذاكرة التخزين المؤقت KV كما هي. قلل الوقت حتى أول رمز بين 5 و48 مرات، ويع…

    التوصيات: 1 mrlatte الملخصناقش

اختصارات لوحة المفاتيح

اختر منشورا بالمفتاحين J وK أو بسهمي الأعلى والأسفل ثم اضغط Enter.

K ↑ / J ↓
المنشور السابق / التالي
Enter C
فتح ملخص المنشور المحدد وتعليقاته
O
فتح الرابط الأصلي للمنشور المحدد
/
البحث
?
عرض هذه المساعدة
Tab
انتقل إلى زر النشر أو التعليق ثم اضغط Enter

اكتب كالمعتاد في حقول النص. يظل Tab وEnter متاحين دائما.