آموزش مدل Grok 4.8 با زیرساخت جدید ++C به مرحله نهایی خود رسیده است

ایلان ماسک از پایان مرحله پیش‌آموزشی مدل 2.5 تریلیون پارامتری 4.8 Grok با استفاده از پشته نرم‌افزار جدید C++ SpaceXAI در این هفته خبر داد.

گزارش کردن سرویس هوش مصنوعی یک مرحله ایوی پیش از این بارها درباره این زیرساخت جدید صحبت کرده و آن را یکی از تغییرات مهم در روند آموزش و پیاده سازی مدل های GROC می دانست.

به ماسک گفتمرحله پیش‌آموزشی این مدل در روزهای آینده به پایان می‌رسد و پس از آن، تیم توسعه آموزش‌های مبتنی بر یادگیری تقویتی را آغاز خواهد کرد. این مرحله می تواند نقش مهمی در بهبود توانایی مدل در حل مسائل دشوار، بررسی پاسخ ها و کاهش خطاهای رفتاری داشته باشد.

بیشتر بخوانید: آیا گوگل به هوش مصنوعی خود بهبود یافته دست یافته است؟

نحوه آموزش گروک مدل 4.8

در پایان ماه ژوئن، ماسک اعلام کرد که قصد دارد تا حدود سه ماه دیگر نرم افزار آموزش و استنتاج Grok را در C و C++ دوباره طراحی کند. هدف اصلی این تغییر حذف تعداد زیادی از لایه های رابط نرم افزاری و بهینه سازی مستقیم زیرساخت برای پردازنده های گرافیکی GB300 انویدیا بود.

او در آن زمان گفت که این طراحی مجدد می تواند به طور قابل توجهی عملکرد سیستم را پس از تکمیل بهبود بخشد. اکنون مدل Grok 4.8 یکی از مدل هایی است که با استفاده از این پشته نرم افزاری جدید آموزش داده شده است.

این مدل 2.5 تریلیون پارامتر دارد و از نظر اندازه بسیار بزرگ است. با تکمیل پیش‌آموزش، مرحله بعدی توسعه آن به یادگیری تقویتی اختصاص خواهد یافت، مرحله‌ای که قبلاً نسخه قبلی Grok را با مشکل مواجه کرده است.

بیشتر بخوانید: چرا اپل مسیر متفاوتی را برای هوش مصنوعی انتخاب کرده است؟

دلیل تاخیر در انتشار Grok 4.7

در حالی که آموزش Grok 4.8 به مرحله بعدی خود نزدیک می شود، Grok 4.7 هنوز منتشر نشده است. ماسک قبلا گفته بود که این مدل در حدود 12 سپتامبر عرضه خواهد شد، اما مشکلات یادگیری تقویتی باعث تاخیر در عرضه آن شد.

با نزدیک شدن به زمان موعود، او اعلام کرد که Grok 4.7 گاهی اوقات خیلی زود هنگام مواجه شدن با برخی مسائل دشوار تسلیم می شود. همچنین این مدل پاسخ های خود را با دقت کافی بررسی و تایید نمی کند.

این مشکلات نشان می دهد که مرحله یادگیری تقویتی نیز برای مدل 4.8 Grok بسیار مهم خواهد بود. پس از اتمام پیش آموزش، تیم توسعه باید بر بهبود پایداری مدل در حل مسائل دشوار و افزایش توانایی آن در بررسی پاسخ ها تمرکز کند.

ماسک هنوز زمان مشخصی را برای انتشار Grok 4.8 اعلام نکرده است. در حال حاضر مهمترین نقطه عطف این طرح پایان پیش آموزش در این هفته و آغاز مرحله یادگیری تقویتی خواهد بود.