جهش چشمگیر سرعت مدل‌های زبانی بومی روی مک؛ موتور جدید MLX در Ollama همه‌چیز را دگرگون می‌کند

به‌روزرسانی جدید پلتفرم Ollama و معرفی موتور اختصاصی MLX، تجربه اجرای مدل‌های زبانی بزرگ (LLM) را به‌صورت بومی (Local) روی کامپیوترهای مک به‌طور کامل متحول کرده است. این ارتقاء بزرگ، علاوه بر دو برابر کردن سرعت استنتاج (Inference)، بهره‌وری گجت‌های مجهز به تراشه‌های اپل سیلیکون را در پردازش کدهای برنامه‌نویسی و ابزارهای چندعاملی (Multi-agent) به‌شکل بی‌سابقه‌ای افزایش می‌دهد.

بهینه‌سازی معماری حافظه و استفاده‌ی واقعی از پتانسیل اپل سیلیکون

بزرگ‌ترین چالش کاربران در اجرای مدل‌های بومی روی سخت‌افزارهای میان‌رده (مانند مک‌بوک ایر مجهز به ۱۶ گیگابایت رم)، افت شدید عملکرد کلی سیستم و اشغال تمام منابع سخت‌افزاری بود. موتور جدید Ollama با اتکای مستقیم بر فریم‌ورک MLX اپل و معماری حافظه یکپارچه (Unified Memory)، این مشکل را برطرف کرده است. در این معماری، پردازنده مرکزی (CPU) و پردازنده گرافیکی (GPU) از یک بخش حافظه مشترک استفاده می‌کنند و موتور جدید با کاهش جابجایی‌های اضافی داده در حافظه، بار پردازشی را به‌شدت کاهش می‌دهد.

علاوه بر مدیریت بهینه حافظه، Ollama اکنون چندین عملیات گرافیکی را از طریق کامپایلر درلحظه (JIT) به هسته‌های بزرگ‌تر مِتال (Metal kernels) تبدیل می‌کند. این تغییر ساختاری در کنار بهبود فرآیند نمونه‌برداری متکی بر پردازنده گرافیکی، سرعت تولید توکن‌ها را تا ۲۰ درصد نسبت به نسخه‌های قبلی افزایش داده و در کارهای روزمره مانند اسکریپت‌نویسی و اتوماسیون، عملکردی بسیار روان‌تر ارائه می‌دهد.

بهبود کیفیت خروجی مدل‌های کوچک با فرمت کوانتیزاسیون NVFP4

کاهش حجم مدل‌ها از طریق کوانتیزاسیون (Quantization) معمولاً با حذف برخی از داده‌های حیاتی و در نتیجه افت کیفیت خروجی همراه است؛ اما موتور جدید MLX با پشتیبانی از فرمت کوانتیزاسیون بهینه‌شده‌ی NVFP4 انویدیا، این نقصان را جبران کرده است.

طبق ارزیابی‌های رسمی روی مدل Gemma 4 12B، فرمت جدید NVFP4 میزان افت کیفیت مدل را نسبت به فرمت رایج Q4_K_M به نصف کاهش می‌دهد، در حالی که میزان اشغال حافظه رم را در همان سطح نگه می‌دارد. این یعنی مدل‌های کوچک‌تر روی مک‌بوک‌های با رم محدود، بدون نیاز به سخت‌افزار قوی‌تر، پاسخ‌های دقیق‌تر، منسجم‌تر و پایدارتری در طول گفتگوهای طولانی تولید می‌کنند.

مهندسی دوباره‌ی جریان کاری عامل‌های هوشمند (Coding Agents)

تحول اصلی این به‌روزرسانی در نحوه مدیریت حافظه پنهان (Cache) در جریان کارهای چندعاملی رخ داده است. دستیارهای برنامه‌نویسی (مانند Claude Code و Aider) در هر درخواست ناچارند حجم عظیمی از داده‌ها شامل تاریخچه گفتگو، کدهای قبلی و دستورات سیستم را به مدل ارسال کنند. در ابزارهای سنتی، تغییر مداوم این بسترها باعث پردازش تکراری کل داده‌ها می‌شد.

Ollama برای حل این مشکل، یک سیستم ثبت وضعیت (Snapshot System) را جایگزین سیستم‌های سنتی کرده است. این موتور جدید، وضعیت‌های قابل استفاده مجدد مدل را در نقاط کلیدی گفتگو ذخیره می‌کند تا عامل‌های هوشمند مختلف بتوانند به‌جای بازسازی کل تاریخچه از نقطه صفر، پردازش خود را مستقیم از همان حالت‌های ذخیره‌شده از سر بگیرند. این رویکرد، زمان بازسازی متن (Context) را در فراخوانی‌های مکرر ابزارها به‌شدت کاهش داده و کارایی مدل‌های استدلالی (Thinking Models) را دوچندان کرده است.

منبع: PC Gamer