AMD släpper Milan-X-processorer med 3D V-cache: EPYC 7003 upp till 64 kärnor och 768 MB L3-cache

Det har varit mycket fokus på hur både Intel och AMD planerar för framtiden när det gäller att förpacka sina dies för att öka den totala prestandan och minska högre tillverkningskostnader. För AMD har nästa steg varit V-cache, en ytterligare L3-cache (SRAM)-chiplet som är designad för att staplas i 3D-matris ovanpå en befintlig Zen 3-chiplet, vilket tredubblar det totala antalet tillgängliga L3-cache. Idag är AMD:s V-cache-teknik äntligen tillgänglig för den bredare marknaden, eftersom AMD tillkännager att deras EPYC 7003X “Milan-X”-server-CPU:er nu har nått allmän tillgänglighet.

Som först tillkännagavs i slutet av förra året, tar AMD med sin 3D V-Cache-teknik till företagsmarknaden genom Milan-X, en avancerad variant av sin nuvarande generation 3:e generationens Milan-baserade EPYC 7003-processorer. AMD lanserar fyra nya processorer som sträcker sig från 16-kärnor till 64-kärnor, alla med Zen 3-kärnor och 768 MB L3-cache via 3D-stackad V-Cache.

AMD:s Milan-X-processorer är en uppgraderad version av dess nuvarande 3:e generationens Milan-baserade processorer, EPYC 7003. Lägger till den redan existerande Milan-baserade EPYC 7003-serien, som vi granskade redan i juni förra året, det viktigaste framstegen från Milano -X är genom sin stora 768 MB L3-cache med hjälp av AMD:s 3D V-Cache-staplingsteknik. AMD 3D V-Cache använder TSMC:s N7-processnod – samma nod som Milans Zen 3-chiplets är byggda på – och den mäter på 36 mm², med ett 64 MiB-chip ovanpå de befintliga 32 MiB som finns på Zen 3-chipletarna.

Med fokus på nyckelspecifikationerna och teknologierna har de senaste Milan-X AMD EPYC 7003-X-processorerna 128 tillgängliga PCIe 4.0-banor som kan användas genom PCIe 4.0-slots i full längd och val av kontroller. Detta beror på hur moderkorts- och serverleverantörer vill använda dem. Det finns också fyra minneskontroller som kan stödja två DIMM per kontrollenhet vilket tillåter användning av åtta-kanals DDR4-minne.

Den övergripande chipkonfigurationen för Milan-X är en gigantisk MCM med nio chiplets, med åtta CCD-matriser och en stor I/O-matris, och detta gäller alla Milan-X SKU:er. Kritiskt sett har AMD valt att utrusta alla sina nya V-cache EPYC-chips med maximalt 768 MB L3-cache, vilket i sin tur innebär att alla 8 CCD:er måste finnas, från den översta SKU (EPYC 7773X) till den nedre SKU (EPYC) 7373X). Istället kommer AMD att variera antalet CPU-kärnor som är aktiverade i varje CCD. När man borrar ner innehåller varje CCD 32 MB L3-cache, med ytterligare 64 MB 3D V-Cache skiktad ovanpå för totalt 96 MB L3-cache per CCD (8 x 96 = 768).

När det gäller minneskompatibilitet har ingenting förändrats från de tidigare Milan-chippen. Varje EPYC 7003-X-chip stöder åtta DDR4-3200-minnesmoduler per sockel, med kapaciteter på upp till 4 TB per chip och 8 TB över ett 2P-system. Det är värt att notera att de nya Milan-X EPYC 7003-X-chipsen delar samma SP3-socket som den befintliga serien och är därför kompatibla med nuvarande LGA 4094-moderkort genom en firmware-uppdatering.

Om man tittar på den nya EPYC 7003-stacken med 3D V-Cache-teknik, är den översta SKU:n EPYC 7773X. Den har 64 Zen3-kärnor med 128 trådar med en basfrekvens på 2,2 GHz och en maximal boostfrekvens på 3,5 GHz. EPYC 7573X har 32 kärnor och 64 trådar, med en högre basfrekvens på 2,8 GHz och en boostfrekvens på upp till 3,6 GHz. Både EPYC 7773X och 7573X har en bas-TDP på ​​280 W, även om AMD anger att alla fyra EPYC 7003-X-chips har en konfigurerbar TDP på ​​mellan 225 och 280 W.

Det lägsta chipet i den nya serien är EPYC 7373X, som har 16 kärnor med 32 trådar, en basfrekvens på 3,05 GHz och en boostfrekvens på 3,8 GHz. När du flyttar upp i stacken har den också ett 24c/48t-alternativ med en basfrekvens på 2,8 GHz och en boostfrekvens på upp till 3,7 GHz. Båda inkluderar en TDP på ​​240 W, men liksom de större delarna har AMD bekräftat att både 16-kärniga och 24-kärniga modeller kommer att ha en konfigurerbar TDP på ​​mellan 225 W och 280 W.

Anmärkningsvärt är att alla dessa nya Milan-X-chips har någon form av klockhastighetsregression jämfört med sina vanliga Milan (max kärnprestanda) motsvarigheter. I fallet med 7773X är detta basklockhastigheten, medan de andra SKU:erna sjunker lite både på basen och ökar klockhastigheterna. Nedgången är nödvändig av V-cachen, som med cirka 26 miljarder extra transistorer för en full Milan-X-konfiguration äter på chipsens effektbudget. Så med AMD som väljer att hålla TDP:er konsekventa, har klockhastigheterna sänkts lite för att kompensera. Som alltid kommer AMD:s processorer att köra så snabbt som värme och TDP-utrymme tillåter, men de V-cache-utrustade chipsen kommer att nå dessa gränser lite tidigare.

AMD:s målmarknad för de nya Milan-X-chippen är kunder som behöver maximera prestanda per kärna; specifikt den delmängd av arbetsbelastningar som drar nytta av den extra cachen. Det är därför som Milan-X-chippen inte ersätter EPYC 70F3-chippen helt, eftersom inte alla arbetsbelastningar kommer att svara på den extra cachen. Så båda laguppställningarna kommer att dela topplatsen som AMD:s snabbaste EPYC SKU:er per kärna.

För sin del pitchar AMD särskilt de nya chipsen på CAD/CAM-marknaden, för uppgifter som finita elementanalys och elektronisk designautomation. Enligt företaget har de sett uppåt 66 % ökning av RTL-verifieringshastigheter på Synopsys VCS-verifieringsprogramvara i en jämförelse mellan äpplen och äpplen mellan Milan-processorer med och utan V-cache. Precis som med andra chips som innehåller större cacher, kommer de största fördelarna att finnas i arbetsbelastningar som rinner ut ur cacher av modern storlek, men som prydligt passar in i den större cachen. Att minimera dyra resor till huvudminnet innebär att CPU-kärnorna kan fortsätta att fungera så mycket oftare.

Microsoft hittade något liknande förra året, när de avtäckte en offentlig förhandsvisning av sina virtuella Azure HBv3-maskiner redan i november. Vid den tiden publicerade företaget några prestationssiffror från sina interna tester, främst om arbetsbelastningar förknippade med HPC. Genom att jämföra Milan-X direkt med Milan använde Microsoft data från både EPYC 7003 och EPYC 7003-X inuti sina HBv3 VM-plattformar. Det är också värt att notera att testet gjordes på system med dubbla sockel, eftersom alla EPYC 7003-X-processorer som tillkännagavs idag kunde användas i både 1P- och 2P-installationer.

Prestandadata som publicerats av Microsoft Azure är uppmuntrande och med sina interna tester ser det ut som om den extra L3-cachen spelar en stor roll. I Computational Fluid Dynamics noterades det att det fanns en bättre hastighet med färre element, så det måste tas i beaktande. Microsoft uppgav det med sin nuvarande HBv3-seriekan dess kunder förvänta sig maximala vinster på upp till 80 % prestanda i Computational Fluid Dynamics jämfört med de tidigare HBv3 VM-systemen med Milan.

AMD:s EPYC 7003-X-processorer är nu allmänt tillgängliga för allmänheten. Med priser listade på 1K-enhetsbeställningsbasis, säger AMD att EPYC 7773X med 64C/128T kommer att finnas tillgänglig för cirka 8800 $, medan 32C/64T-modellen, EPYC 7573X, kommer att kosta cirka 5590 $. När man flyttar ner kommer EPYC 7473X med 24C/48T att kosta $3900, och inträdet EPYC 7373X med 16C/32T kommer att kosta något mer med en kostnad på $4185.

Med tanke på de stora orderstorlekar som krävs, kommer det totala detaljhandelspriset sannolikt att vara något högre för en enhet. Även om majoriteten av AMDs kunder är server- och molnleverantörer, kommer AMD utan tvekan att ha några kunder som köper i bulk. Många av AMD:s stora OEM-serverpartners kommer också att börja erbjuda system som använder de nya chipsen, inklusive Dell, Supermicro, Lenovo och HPE.

Slutligen kommer konsumenterna att få sin egen chans att lägga vantarna på några AMD V-cache-aktiverade processorer nästa månad, när AMD:s andra V-cache-produkt, Ryzen 7 5800X3D, släpps. Den stationära processorn är baserad på en enda CCD med hela 96 MB L3-cache tillgängligt, vilket allt står i kontrast till de mycket större EPYC-chipsen.