لذا الآن حيث سيكون هذا منطقيًا للاشتقاق، بالكاد تناسبنا كودير Qwen 3 كمي Q8 و Kimi K2 على H200s لدينا. لم تترك Kimi K2 @ Q8 أي مساحة لذاكرة الكاش للـ kv للسياق. هل يمكن أن تناسب هذه النماذج على مثيل واحد 8xB200؟ ربما، سنجرب ذلك هذا الأسبوع.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
لذا الآن حيث سيكون هذا منطقيًا للاشتقاق، بالكاد تناسبنا كودير Qwen 3 كمي Q8 و Kimi K2 على H200s لدينا. لم تترك Kimi K2 @ Q8 أي مساحة لذاكرة الكاش للـ kv للسياق. هل يمكن أن تناسب هذه النماذج على مثيل واحد 8xB200؟ ربما، سنجرب ذلك هذا الأسبوع.