انویدیا در جریان کنفرانس فناوری GPU خود، قدرتمندترین تراشه جهان برای مح،ات مرتبط با هوش مصنوعی به نام GB200 را معرفی کرد که GPU Blackwell B200 را تقویت می کند. این تراشه جانشین تراشه هوش مصنوعی H100 است و پیشرفت های زیادی در عملکرد و کارایی ارائه می دهد.
پردازنده گرافیکی جدید B200 به لطف 208 میلیارد ترانزیستور داخل تراشه، قادر به 20 پتافلاپ FP4 است. علاوه بر این، GB200 در بارهای کاری استنتاج LLM 30 برابر عملکرد H100 دارد و در عین حال مصرف انرژی را 25 برابر کاهش می دهد. در بنچمارک GPT-3 LLM، GB200 هفت برابر سریعتر از H100 است.
به ،وان مثال، آموزش مدلی با 1.8 تریلیون پارامتر به 8000 پردازنده گرافیکی Hopper و حدود 15 م،ات نیاز دارد، در حالی که مجموعه ای از 2000 GPU بلک ول می تواند این کار را تنها با 4 م،ات انجام دهد.
برای بهبود بیشتر کارایی، انویدیا یک تراشه سوئیچ شبکه جدید با 50 میلیارد ترانزیستور طراحی کرد که می تواند 576 پردازنده گرافیکی را مدیریت کند و به آنها اجازه می دهد با پهنای باند 1.8 ترابایت بر ث،ه با یکدیگر صحبت کنند.
به این ترتیب، انویدیا مانند گذشته مشکل ارتباط را حل کرد، سیستمی که 16 پردازنده گرافیکی را ،یب می کند، 60 درصد از زمان را صرف برقراری ارتباط و 40 درصد از زمان را به مح،ات اختصاص می دهد.
انویدیا می گوید که راه حل کاملی را به شرکت ها ارائه می دهد. به ،وان مثال، GB200 NVL72 اجازه می دهد تا 36 CPU و 72 GPU را در یک رک خنک کننده مایع قرار دهید. از طرف دیگر، یک DGX Superpod برای DGX GB200، هشت مورد از این سیستم ها را در یک سیستم ،یب می کند که 288 CPU و 576 GPU با 240 ترابایت حافظه تولید می کند.
شرکت هایی مانند اوراکل، آمازون، گوگل و مایکروسافت قبلاً برنامه هایی برای ادغام رک های NVL72 برای سرویس های ابری خود به اشتراک گذاشته اند.
معماری پردازنده گرافیکی مورد استفاده برای پردازنده گرافیکی Blackwell B200 احتمالا پایه و اساس سری RTX 5000 آینده خواهد بود.
منبع
منبع: https://www.gsmarena.com/nvidia_announces_the_blackwell_b200_gpu_for_ai_computing-news-62070.php