ماژول سرور هوش مصنوعی Intel Gaudi 3 HL-225H مخصوص آموزش مدلهای هوش مصنوعی و LLM
Intel Gaudi 3 HL-225H نسل سوم سیستمهای شتابدهنده هوش مصنوعی اینتل است که بهطور کامل برای آموزش مدلهای زبانی بزرگ (LLM) و یادگیری عمیق طراحی شده است. این ماژول دارای ۸ پردازنده Gaudi 3 AI با حافظه HBM2e و ارتباط داخلی پرسرعت است که عملکردی در سطح ابررایانه ارائه میدهد.
توان پردازشی بیش از ۲ برابر نسل قبلی
- ۸ شتابدهنده Gaudi 3 با توان جمعی تا ۴۰۰۰ وات
- بهبود دوبرابری در عملیات FP8 و BF16 نسبت به Gaudi 2
- پشتیبانی از تبادل داده درونماژولی تا ۱۶ ترابایت بر ثانیه
حافظه HBM2e و ارتباط فوقسریع
هر تسریعدهنده Gaudi 3 دارای 32 گیگابایت حافظه HBM2e با پهنای باند ۲٫۴ ترابایت بر ثانیه است. در مجموع، ماژول HL-225H دارای ۲۵۶ گیگابایت حافظه HBM2e با ارتباط میانشتابدهندهای اختصاصی برای کاهش تأخیر و افزایش سرعت آموزش مدلها است.
پشتیبانی از زیرساخت باز و سازگاری کامل با فریمورکهای AI
- پشتیبانی از TensorFlow، PyTorch و ONNX Runtime
- بهینهسازی شده با پلتفرم Habana SynapseAI SDK
- سازگار با زیرساخت سرورهای ASUS ESC8000 E12 و Dell XE9680
طراحی ماژولار برای مراکز داده و مقیاسپذیری بالا
ماژول HL-225H بهصورت مستقل یا در چند واحد قابل تجمیع است و از اتصال ماژولار ۱۰، ۲۵ و ۱۰۰ گیگابیتی پشتیبانی میکند. سیستم خنککنندگی پسیو به همراه کانال جریان هوای خطی برای کارکرد ۲۴ ساعته در دیتاسنترها بهینه شده است.
کاربردهای اصلی
- آموزش و استنتاج مدلهای هوش مصنوعی در مقیاس بزرگ
- مدیریت بارهای LLM در پلتفرمهای ابر یا Private Cloud
- تحلیل دادههای ژنتیک، تصویربرداری پزشکی و تحقیقات علمی
- ادغام با زیرساختهای GPU مانند NVIDIA H200 یا AMD MI300
برای مشاهده جزئیات بیشتر و خرید آنلاین، کلیک کنید.
پرسشی برای این محصول ثبت نشده است.