پردازنده های نسل جدید انویدیا مانند B100 و B200، می تواند تا 1000 وات برق مصرف کند که نشان دهنده افزایش 40 درصدی مصرف برق نسبت به نسل قبل است. این افزایش مصرف برق به دلیل افزایش تعداد هسته ها، ترانزیستورها و فرکانس کاری این پردازنده هاست.
گزارش کردن تنهادل، یکی از بزرگترین سازندههای سرور در جهان، اطلاعات محرمانهای در مورد پردازندههای هوش مصنوعی آینده انویدیا با کد «Blackwell» به بیرون درز کرده است. ظاهرا این پردازنده ها تا 1000 وات برق مصرف خواهند کرد که نسبت به نسل قبل 40 درصد افزایش داشته است. این افزایش مصرف انرژی Dell را مجبور می کند تا از خلاقیت مهندسی خود برای خنک کردن این پردازنده ها استفاده کند. سخنان دل ممکن است به برخی از ویژگی های خاص معماری پردازنده های محاسباتی آینده انویدیا اشاره کند.
تمژاردور ایوان مک گیل، مدیر مالی Dell گزارش می دهد که هرگونه پیشرفت در H200 و عملکرد افزایش یافته آن ما را هیجان زده می کند. ما همچنین در مورد B100 و B200 هیجانزده هستیم و فکر میکنیم که این فرصتی است تا تواناییهای مهندسی خود را به نمایش بگذاریم. تخصص ما در مدیریت حرارتی به ما این امکان را می دهد که به تراکم توان 1000 وات در هر پردازنده بدون نیاز به خنک کننده مستقیم مایع دست یابیم.
سخت افزار تام | Nvidia H100 (جاری) | Nvidia B100 (تحقیقات دل) | AMD MI300X | Nvidia H200 (جاری) |
FP16/bf16 TFLOPS | 989 | ? | 1307 | 989 |
مصرف برق | 700 وات | 1000 وات | 750 وات | 700 وات |
اندازه قالب (میلی متر مربع) | 814 | ? | 1017 | 814 |
از آنجایی که ما برنامه های انویدیا برای معماری بلک ول را نمی دانیم، فقط می توانیم به یک قانون کلی برای اتلاف گرما اشاره کنیم که می گوید اتلاف گرما معمولاً حدود 1 وات در هر میلی متر مربع از سطح تراشه است.
اینجاست که از نظر ساخت تراشه جالب می شود. پردازنده H100 انویدیا (ساخته شده بر اساس فناوری اختصاصی 4 نانومتری) حدود 700 وات گرما از جمله حافظه HBM تولید می کند، در حالی که مساحت تراشه آن 814×814 است، بنابراین در محدوده زیر 1 وات بر میلی متر مربع است. طول می کشد. این تراشه با فناوری اختصاصی TSMC برای بهبود عملکرد در کلاس 4 نانومتری ساخته شده است.
این احتمال وجود دارد که نسل بعدی پردازندههای گرافیکی انویدیا با فناوری 3 نانومتری دیگر با عملکرد بهبودیافته ساخته شود. با توجه به مصرف انرژی تراشه و اتلاف حرارت مورد نیاز، منطقی است که B100 انویدیا اولین طراحی دو تراشه این شرکت باشد. این اجازه می دهد تا سطح بیشتری برای دفع گرمای تولید شده وجود داشته باشد. قبلاً شاهد استفاده از معماریهای پردازنده گرافیکی چند تراشهای توسط AMD و Intel بودهایم، بنابراین این حرکت مطابق با سایر روندهای صنعت است.
در کاربردهای ابررایانه و هوش مصنوعی با کارایی بالا، باید عملکرد اندازه گیری شده در فلاپ (FLOPS) و انرژی لازم برای رسیدن به این فلاپ و خنک کردن انرژی حرارتی حاصل را در نظر بگیریم. برای توسعه دهندگان نرم افزار، مهم است که بدانند چگونه از این فلاپ ها به طور موثر استفاده کنند. برای توسعه دهندگان سخت افزار، مهم است که بدانند چگونه پردازنده هایی را که این فلاپ ها را تولید می کنند خنک کنند.
اینجاست که دل ادعا می کند فناوری آن از رقبای خود پیشی خواهد گرفت و به همین دلیل است که مدیر مالی دل درباره نسل بعدی پردازنده های بلک ول انویدیا صحبت کرده است.
مک گیل با اشاره به پردازنده و ابررایانه هوش مصنوعی بعدی انویدیا می گوید که این اتفاق سال آینده با B200 رخ خواهد داد. فرصتی برای ما وجود دارد که مهندسی، سرعت عملیات و کاری را که به عنوان پیشرو در صنعت انجام دادهایم به نمایش بگذاریم تا تخصص خود را در عملکرد خنککننده مایع در مقیاس بزرگ، و همچنین زمینههای دیگر مانند شیمی و عملکرد سیالات، پیوند، نشان دهیم. کار، تله متری و از مدیریت انرژی استفاده کنید.
این به ما این امکان را می دهد که آماده باشیم تا در مقیاس بزرگ وارد بازار شویم و از این ظرفیت محاسباتی عظیم در بازار استفاده کنیم.
توسط Nvidia اولین کارت گرافیک هوش مصنوعی 1000 واتی را در Tech Knock می سازد – اخبار دنیای فناوری. ظاهر شد.
گفتگو در مورد این post