انویدیا: صنعت پردازنده بعد از تعداد هسته‌ها خیلی زیاد بود. هوش مصنوعی عامل سرعت تک هسته ای را احیا می کند

سال‌هاست که رقابت برای واحدهای پردازش مرکزی (CPU) در مراکز داده حول یک سوال نسبتا ساده می‌چرخد: چند هسته می‌توانند در یک سرور قرار بگیرند و چه مقدار کار می‌توانند به طور همزمان پردازش کنند؟ اکنون انویدیا استدلال می‌کند که این پیگیری مقیاس‌پذیری با هزینه‌هایی همراه است که با خودکار شدن سیستم‌های هوش مصنوعی مهم‌تر می‌شوند.

معماری Vera که برای هوش مصنوعی طراحی شده است، 88 هسته سفارشی Olympus را با یک قالب پردازش یکپارچه و زیرسیستم حافظه با پهنای باند بالا ترکیب می کند.

آیا صنعت پردازنده بیش از حد بر تعداد هسته متمرکز شده است؟

تیم Viera در انویدیا در مصاحبه‌ای با وب‌سایت Wccftech اظهار داشت که گرایش صنعت به سمت طراحی‌های مبتنی بر چیپ‌لت و تعداد هسته‌های بالاتر به قیمت عملکرد تک رشته‌ای و دستورالعمل در هر چرخه (IPC) تمام شده است. با توجه به اینکه هوش مصنوعی عاملی Nvidia معتقد است که CPUها در مراحل متوالی استدلال نیاز به اجرای سریعتر دارند.

با گسترش مراکز داده ابری، سازندگان تراشه بر روی جمع کردن هسته های بیشتر در سرورها برای مدیریت بارهای کاری همزمان تمرکز کرده اند. طراحی تراشه‌ها با تقسیم پردازنده به چند قالب کوچکتر به جای ساختن کل تراشه روی یک قالب بزرگتر، این امکان را فراهم می‌کند. اما تیم Viera در انویدیا استدلال می‌کند که این رویکرد دارای اشکالاتی نیز هست. انتقال داده ها بین رشته ها می تواند تاخیرهای ارتباطی را ایجاد کند و دسترسی به حافظه را پیچیده کند و به طور بالقوه عملکرد تک رشته ای هر هسته را محدود کند. این امر چیپلت‌ها را به انتخاب بدی در طراحی تبدیل نمی‌کند، اما انویدیا معتقد است که فشار صنعت برای هسته‌های بیشتر به قیمت کاهش سرعت هسته‌ها تمام شده است.

آنچه در آن زمان از نظر طراحی CPU متضرر شد، در واقع عملکرد تک رشته ای و IPC بود؛ زیرا وقتی از چیپلت ها استفاده می کنید، عملاً فضایی روی تراشه برای طراحی برای بهینه سازی عملکرد هر هسته ندارید.

تاثیر هوش مصنوعی بر تغییر معادلات پردازشی

عامل هوش مصنوعی این معادله را تغییر می دهد. برخلاف یک ربات چت ساده که به سادگی پاسخ تولید می کند، یک عامل هوش مصنوعی ممکن است نیاز به اجرای کد، فراخوانی ابزارهای خارجی، بازیابی داده ها، تجزیه و تحلیل نتایج و سپس تصمیم گیری در مورد اقدامات بعدی داشته باشد. در حالی که برخی از کارها می توانند همزمان اجرا شوند، برخی دیگر باید قبل از شروع مرحله بعدی تکمیل شوند. اینجاست که عملکرد یا سرعت تک رشته ای که الف واحد پردازش مرکزی (CPU) می تواند کار را روی یک رشته پردازش کند، مهم می شود. انویدیا استدلال می‌کند که اجرای سریع‌تر و تأخیر کمتر می‌تواند به عوامل کمک کند تا این مراحل را با سرعت بیشتری طی کنند.

همچنین تأثیر مستقیمی بر پردازنده‌های گرافیکی دارد. اگر یک CPU زمان زیادی را صرف آماده‌سازی کار بعدی یا پردازش خروجی یک عامل کند، GPU ممکن است در انتظار دستورالعمل‌ها بیکار بنشیند و ظرفیت محاسباتی ارزشمند را هدر دهد. اگر تک تک وظایف آهسته باقی بمانند، صرفاً افزودن هسته های بیشتر به CPU لزوماً مشکل را حل نمی کند. انویدیا استدلال می‌کند که عامل هوش مصنوعی به تعادل بهتری بین تعداد هسته‌ها و سرعت هر هسته نیاز دارد تا CPU بتواند با GPU هماهنگ باشد و به گلوگاه سیستم تبدیل نشود.

تراشه NVIDIA Vera چگونه سرعت تک هسته ای را باز می گرداند؟

معماری ورا هدف آن ترکیب هسته های فردی سریعتر با توان عملیاتی مورد نیاز مراکز داده مدرن است. این تراشه دارای 88 هسته سفارشی Olympus بر روی یک قالب محاسباتی یکپارچه، در کنار یک زیر سیستم حافظه سفارشی LPDDR5X است. انویدیا می گوید که نسل دوم Scalable Coherency Fabric تا 3.4 ترابایت بر ثانیه پهنای باند ارائه می دهد که سه برابر تراشه های پیشرو x86 است. نگه داشتن هسته ها روی یک قالب پردازشی واحد نیز مانع از ارتباط بین تراشه های جداگانه می شود. اینها ادعاهای انویدیا هستند، اما استراتژی کاملاً واضح است: اولویت دادن به ارتباطات سریع و کارآمد بدون از دست دادن مزایای تعداد بالای هسته.

معماری ورا نیز نشان دهنده تغییر در نگرش است Nvidia به جایگاه پردازنده های مرکزی در زیرساخت هوش مصنوعی. در حالی که تراشه Grace در درجه اول به عنوان میزبان برای سیستم های مبتنی بر GPU عمل می کند، انویدیا می گوید هوش مصنوعی تقاضا برای رک های CPU مستقل برای مدیریت تماس های ابزار، اجرای کد و یادگیری تقویتی ایجاد کرده است. این بدان معنا نیست که پردازنده‌های گرافیکی از اهمیت کمتری برخوردار می‌شوند یا تراشه‌ها در حال حذف شدن هستند. خود انویدیا اعلام کرده است که اگر منطقی باشد همچنان به طراحی چیپلت ها پایبند خواهد بود.

تغییر مفهوم یک پردازنده خوب در عصر هوش مصنوعی

مهمتر از آن، هوش مصنوعی تعریف یک CPU ایده آل را تغییر می دهد. از آنجایی که agent ها فراتر از پاسخگویی به پرسش ها به وظایف چند مرحله ای می روند، تعداد خام هسته ها به تنهایی کل داستان را بیان نمی کند. نبرد بعدی فقط این نیست که هسته های بیشتری را در یک تراشه بچسبانید، بلکه در مورد این است که مطمئن شوید هر هسته به اندازه کافی سریع است تا کارخانه هوش مصنوعی را فعال نگه دارد و ماشین های گران قیمت آن را کاهش ندهد.