عرضه ابزار FlashMap برای افزایش سرعت رمزگشایی مدل‌های زبانی بزرگ
محققان Polymathic AI، پرینستون و USC ISI ابزار جدیدی به نام FlashMap را برای سرعت بخشیدن به رمزگشایی مدل‌های زبانی معرفی کردند. این فناوری به افزایش چشمگیر سرعت پردازش کمک می‌کند.
متن کامل این خبر را در MarkTechPost بخوانید.
مشاهده خبر در منبع اصلی
Polymathic AI and Princeton Researchers Release FlashMap, a Flow Map Drafter for 6.14x Faster LLM Decoding
FlashMap is a speculative decoding drafter from Polymathic AI, Princeton and USC ISI researchers. It drafts 16 tokens jointly in one pass and reaches up to 6.14x lossless speedup on Qwen3-8B.
Original headline and excerpt from MarkTechPost.
تیتر و خلاصه فارسی این خبر با کمک هوش مصنوعی و فقط بر اساس اطلاعات منتشرشده در منبع تهیه شده است.