تغییرات اخیر در رویکرد سام奥特曼، مدیرعامل OpenAI، نشان‌دهنده جابه‌جایی تمرکز از ابر به لبه (Edge) در صنعت هوش مصنوعی است. در تازه‌ترین اظهارات،奥特曼 بر این نکته تأکید ورزید که برای اجرای روان مدل‌های زبانی بزرگ روی دستگاه‌های کاربر نهایی، صرفه‌جویی در مصرف حافظه رم (RAM) دیگر یک انتخاب، بلکه یک ضرورت فنی محسوب می‌شود.

چرا رم محدودیت اصلی اجرای LLM محلی است؟

مدل‌های زبانی بزرگ (LLM) به دلیل حجم بالای پارامترها، فضای حافظه قابل توجهی require می‌کنند. اگرچه پردازنده‌های گرافیکی (GPU) نقش مهمی در محاسبات ماتریسی دارند، اما بارگذاری مدل و دسترسی به دیتای گشتاور (Context Window) مستقیماً به پهنای باند و ظرفیت RAM سیستم وابسته است.奥特曼 اشاره کرد که کاربران به‌منظور تجربه‌ای بدون Latency و اجرا متوالی چندین گزین، باید به سیستم‌هایی با رم‌های پرسرعت و با ظرفیت بالاتر (مانند ۳۲ گیگابایت یا بیشتر) ارتقا دهند.

  • افزایش ظرفیت رم از هزینه‌برترین بخش‌های ارتقای سیستم برای اجرای هوش مصنوعی است.
  • مدل‌های کمپکت (Compact Models) هنوز در اشباع ظرفیت حافظه مواجه هستند.
  • هم‌افزایی CPU و RAM در پردازش‌های سبک‌تر هوش مصنوعی حیاتی است.

اثرات بر اکوسیستم سخت‌افزاری و انبارمانند داده

این رویکرد می‌تواند پیامدهای عمیقی بر صنعت تولیدکنندگان سخت‌افزار داشته باشد. با توجه به پدیده انبارمانند داده (Context Window) در مکالمات طولانی‌مدت هوش مصنوعی، حجم داده‌های موقت که باید در حافظه سریع نگه‌داری شود، به‌طور تصاعدی افزایش می‌یابد. تحلیلگران پیش‌بینی می‌کنند که این نیاز، تقاضا برای ماژول‌های DDR5 با پهنای باند بالا را در بازار خُرد و سازمانی طعم خواهد زد.

آیا لپ‌تاپ‌های فعلی برای هوش مصنوعی آماده هستند؟

اگرچه پیشرفت در فشرده‌سازی مدل‌ها (Quantization) میزان رم مورد نیاز را کاهش داده است، اما سقف کیفیت در اجرای محلی (Local Inference) هنوز به زیرساخت سخت‌افزاری وابسته است.奥特曼 با وعده‌ی ارائه ابزارهای بهینه‌تر، در واقع به کاربران گوشزد می‌کند که آینده هوش مصنوعی شخصی (Personal AI) به فضای حرارتی و حافظه‌ای بسته است که امروزه در بسیاری از دستگاه‌های میان‌رده یافت نمی‌شود. این دیدگاه می‌تواند روند طراحی نسل بعدی تبلت‌ها و لپ‌تاپ‌ها را در جهت توسعه Underlying Architecture تغییر دهد.

پرسش‌های پرتکرار

چرا سام奥特曼 بر افزایش RAM تأکید دارد؟

زیرا اجرای مدل‌های زبانی پیشرفته روی همان دستگاه کاربر (محلی)، نیازمند ذخیره‌سازی پارامترها و داده‌های گشتاور در حافظه سریع است تا از تأخیر Latency جلوگیری شود.

آیا کاربران فعلی به کارت گرافیک قوی‌تر هم نیاز دارند؟

هرچند GPU نقش تعیین‌کننده‌ای در سرعت محاسبات دارد، اما奥特曼 در این بیان خاص، محدودیت اصلی فعلی برای ظرفیت و پهنای باند حافظه رم در دستگاه‌های مصرف‌کننده را برجسته کرده است.