در کنار اخبار 192 گیگابایتی MI300X امروز، AMD همچنین به طور مختصر آنچه را که AMD Infinity Architecture Platform نامیده می شود، اعلام می کند. این یک طراحی 8 جهته MI300X است که به حدا،ر 8 پردازنده گرافیکی پیشرفته AMD اجازه می دهد تا برای کار بر روی بارهای کاری بزرگتر به یکدیگر متصل شوند.
به طور کلی، فشار روی AMD با توجه به خانواده MI300 قابل توجه است. تقاضا برای شتاب‌دهنده‌های هوش مصنوعی در بیشتر سال گذشته زیاد بوده است و MI300 اولین فرصت AMD برای ایجاد یک بازی قابل توجه در بازار خواهد بود. MI300 کاملاً یک محصول ساختگی برای این شرکت نخواهد بود، اما علاوه بر این که از مزیت فنی اولین نفری است که یک APU سرور تک تراشه ای را عرضه می کند (و حقوق لاف زدن همراه با آن)، به آنها نیز می دهد. یک محصول تازه برای فروش به بازاری که در حال ،ید تمام سخت افزاری است که می تواند تهیه کند. به طور خلاصه، انتظار می رود MI300 مجوز AMD برای چاپ پول باشد (الا H100 NVIDIA)، یا سرمایه گذاران مشتاق AMD امیدوارند.
پلتفرم معماری Infinity AMD
به غیر از عملکرد خام GPU (در حال حاضر هیچ عدد سختی برای صحبت نداریم)، بخشی از داستان AMD با MI300X ظرفیت حافظه است. تنها ارائه یک تراشه 192 گیگابایتی به تنهایی کار بزرگی است، با توجه به اینکه ظرفیت حافظه عامل محدودکننده نسل فعلی مدل‌های زبان بزرگ (LLM) برای هوش مصنوعی است. همانطور که با پیشرفت‌های اخیر NVIDIA و سایرین دیدیم، مشتریان هوش مصنوعی در سریع‌ترین زمان ممکن پردازنده‌های گرافیکی و سایر شتاب‌دهنده‌ها را ،یداری می‌کنند، در حالی که برای اجرای مدل‌های بزرگتر، حافظه بیشتری را طلب می‌کنند. بنابراین ارائه یک پردازنده گرافیکی عظیم با ظرفیت 192 گیگابایت که از 8 کانال حافظه HBM3 استفاده می کند، مزیت قابل توجهی برای AMD در بازار کنونی خواهد بود – حداقل زم، که MI300X شروع به ارسال کند.
همچنین ناگفته نماند که با این اعلامیه، AMD ثابت کرده است که حداقل 3 سال قبل از رقیب اینتل، یک طراحی XPU انعطاف پذیر انجام می دهد. در حالی که اینتل محصول ،یبی CPU + GPU Falcon S،res خود را برای یک GPU خالص Falcon S،res کنار گذاشت، AMD اکنون در نظر دارد تا در پایان سال جاری یک محصول منعطف CPU + GPU / GPU را ارائه دهد. در این بازه زم،، در مقابل محصولاتی مانند سوپرتراشه Grace Hopper NVIDIA که اگرچه APU/XPU نیز نیست، با اتصال CPU Grace NVIDIA با یک پردازنده گرافیکی Hopper از طریق NVLink با پهنای باند بالا، بسیار نزدیک است. بنابراین در حالی که ما منتظر جزئیات بیشتر در مورد MI300X هستیم، باید نبرد بسیار جالبی بین دو تایتان GPU ایجاد کند.
AMD Instinct MI300 اولین بار در ژوئن سال گذشته معرفی شد و با جزئیات بیشتر در CES 2023، بازی بزرگ AMD در بازار هوش مصنوعی و HPC است. APU منحصر به فرد و درجه سرور، هم هسته های Zen 4 CPU و هم هسته های CDNA 3 GPU را روی یک تراشه منفرد مبتنی بر چیپلت بسته بندی می کند. امسال هیچ یک از رقبای AMD یک محصول ،یبی CPU + GPU مانند سری MI300 ندارند (یا نخواهند داشت)، بنابراین راه حل جالبی با معماری حافظه واقعاً یکپارچه و پهنای باند زیادی بین کاشی های CPU و GPU به AMD ارائه می کند.
زیر کاپوت، MI300X در واقع یک تراشه کمی ساده تر از MI300A است. AMD سه تراشه CPU MI300A را با تنها دو چیپ‌لیت CDNA 3 GPU جایگزین کرده است که منجر به طراحی کلی 12 چیپلت – 8 تراشه GPU و آنچه به نظر می‌رسد 4 چیپلت حافظه IO دیگر باشد. در غیر این صورت، با وجود جداسازی هسته‌های CPU (و حذف APU از APU)، MI300X فقط با GPU شباهت زیادی به MI300A دارد. و واضح است که AMD قصد دارد از هم افزایی در ارائه APU و CPU پرچمدار در یک بسته استفاده کند.
همانطور که با بردهای HGX 8 طرفه NVIDIA و x8 UBB خود اینتل برای Ponte V،o دیدیم، پیکربندی پردازنده 8 طرفه در حال حاضر نقطه شیرینی برای سرورهای پیشرفته است. این هم به دلایل طراحی فیزیکی – فضایی برای قرار دادن تراشه‌ها و فضایی برای مسیریابی خنک‌کننده از طریق آنها – و همچنین بهترین توپولوژی‌هایی است که برای پیوند دادن تعداد زیادی از تراشه‌ها بدون ایجاد پرش زیاد بین آنها وجود دارد. اگر AMD بخواهد با NVIDIA پا به پا شود و بخشی از بازار پردازنده گرافیکی HPC را تصاحب کند، این یکی دیگر از زمینه‌هایی است که آنها باید با ارائه‌های سخت‌افزاری NVIDIA مطابقت داشته باشند.
MI300 همچنین دارای حافظه روی تراشه از طریق HBM3، با استفاده از 8 پشته از موارد است. در زمان رونمایی از CES، بالاترین ظرفیت پشته‌های HBM3 16 گیگابایت بود که طراحی تراشه‌ای با حدا،ر حافظه محلی 128 گیگابایتی را به همراه داشت. با این حال، به لطف معرفی اخیر پشته های 24 گیگابایتی HBM3، AMD اکنون می تواند نسخه ای از MI300 را با 50 درصد حافظه بیشتر یا 192 گیگابایت ارائه دهد. که به همراه چیپلت های GPU اضافی موجود در MI300X، در نظر گرفته شده است تا آن را به یک نیروگاه برای پردازش بزرگترین و پیچیده ترین LLM تبدیل کند.
AMD پلتفرم معماری Infinity را طراحی «استاندارد صنعت» می‌نامد. طبق گفته AMD، آنها از یک پلت فرم سرور OCP به ،وان پایگاه خود در اینجا استفاده می کنند. و در حالی که این نشان می دهد که MI300X از یک فرم فاکتور OAM استفاده می کند، ما همچنان منتظر دریافت تایید صریح این موضوع هستیم.
منبع: https://www.anandtech.com/s،w/18915/amd-expands-mi300-family-with-mi300x-gpu-only-192gb-memory
AMD با پیوستن به APU 128 گیگابایتی MI300 که اکنون MI300A نامیده می شود، یک قطعه GPU خالص را با استفاده از همان طراحی تولید می کند. این تراشه که MI300X نام دارد، به جای ،یبی از کاشی‌های CPU و GPU در MI300A، فقط از کاشی‌های CDNA 3 GPU استفاده می‌کند و آن را به یک GPU خالص و با کارایی بالا تبدیل می‌کند که با 192 گیگابایت حافظه HBM3 جفت می‌شود. MI300X که دقیقاً بازار بزرگ مدل های زبان را هدف قرار می دهد، برای مشتری، طراحی شده است که به تمام ظرفیت حافظه ای که می توانند برای اجرای بزرگترین مدل ها نیاز دارند، طراحی شده است.
در کنار به‌روزرس،های CPU سرور EPYC، به،وان بخشی از رویداد امروز AMD Data Center، این شرکت همچنین به‌روزرس،هایی را در مورد وضعیت خانواده شتاب‌دهنده‌های تقریباً تمام شده AMD Instinct MI300 ارائه می‌دهد. نسل بعدی پردازنده های ک، HPC این شرکت که از هسته های Zen 4 CPU و CDNA 3 GPU در یک بسته استفاده می کنند، اکنون به خانواده XPU های چند SKU تبدیل شده اند.
