گوگل Gemma 4 12B را برای اجرای لوکال منتشر کرد

تا همین چند وقت پیش، اجرای یک مدل هوش مصنوعی چندوجهی قدرتمند نیازمند سرورهای گران‌قیمت یا پرداخت هزینه‌های سنگینِ کلاد بود. اما گوگل با معرفی Gemma 4 12B خط بطلانی روی این رویه کشیده است. این مدل جدید طوری بهینه‌سازی شده که با ۱۶ گیگابایت حافظه ویدیویی (VRAM) یا حافظه یکپارچه (Unified Memory) به راحتی اجرا می‌شود. سیستمی مثل یک مک‌بوک پرو با پردازنده M5 و ۲۴ گیگابایت رم، دقیقاً همان سخت‌افزار ایده‌آلی است که می‌تواند این هیولای کوچک را به روان‌ترین شکل ممکن میزبانی کند و اگر از قبل به محیط ابزارهایی مثل Ollama برای لود کردن مدل‌ها مسلط باشید، اضافه کردن این غول ۱۲ میلیارد پارامتری به ورک‌فلوی روزانه‌تان فقط چند دقیقه زمان می‌برد.

راز سبک بودن این مدل چیست؟ در مدل‌های سنتی چندوجهی، ابتدا تصویر یا صدا توسط یک بخش مجزا به نام «انکودر» پردازش می‌شود و سپس نتیجه به زبانِ مدل (LLM) ترجمه می‌گردد. گوگل این واسطه‌ها را کاملاً حذف کرده است! در Gemma 4 12B، داده‌های صوتی و تصویری مستقیماً به ستون فقرات مدل تزریق می‌شوند. این کار نه تنها تأخیر (Latency) را به شدت کم می‌کند، بلکه مصرف حافظه را به قدری پایین می‌آورد که اجرای محلی (Local Execution) کاملاً منطقی و اقتصادی می‌شود.

علاوه بر خود مدل، گوگل ابزارهای توسعه‌دهندگان را هم برای سیستم‌عامل مک منتشر کرده است؛ از جمله اپلیکیشن Google AI Edge Gallery (برای مدیریت و اجرای محلی مدل‌ها) و Eloquent (یک اپلیکیشن نمونه و کاربردی برای تبدیل آفلاینِ گفتار به نوشتار). تصور کنید یک تحلیلگر مالی بدون نیاز به اینترنت، اسناد فوق‌محرمانه شرکت را به ایجنت هوش مصنوعی خود روی لپ‌تاپ می‌دهد و مدل بلافاصله آن‌ها را خلاصه می‌کند؛ همه این‌ها بدون اینکه حتی یک بایت اطلاعات به سرورهای خارجی ارسال شود.