SOCAMM2: Micron ridică miza în competiția memoriilor

Competiția din piața memoriilor pentru centrele de date intră într-o nouă etapă. La scurt timp după ce a anunțat eșantioane pentru un modul de 192 GB SOCAMM2, în toamna trecută, compania americană Micron Technology a făcut un nou pas: a început livrarea de mostre pentru un modul de 256 GB SOCAMM2, considerat în prezent cel mai mare modul LPDRAM din industrie.

Mișcarea marchează o accelerare clară a competiției într-un segment tot mai important pentru infrastructura AI și pentru serverele de înaltă performanță.

SOCAMM (Small Outline Compression Attached Memory Module) este un standard de memorie de nouă generație, dezvoltat inițial de NVIDIA (cu parteneri precum Micron) pentru a oferi performanțe ridicate, eficiență energetică și capacitate de upgrade în servere AI și module edge. Spre deosebire de HBM, SOCAMM utilizează LPDDR5X/LPDDR5 într-un format modular.

SOCAMM2 – Capacitate record și eficiență energetică sporită

Noul modul este construit pe primul cip monolitic LPDDR5X de 32 Gb din industrie, potrivit companiei. Micron susține că soluția reduce consumul de energie la o treime față de modulele RDIMM standard și ocupă doar o treime din spațiul acestora.

În ceea ce privește performanța, producătorul indică un timp de răspuns de 2,3 ori mai rapid la generarea primului token în scenarii de inferență LLM cu context extins, precum și o eficiență energetică de trei ori mai bună în implementări bazate exclusiv pe CPU.

Capacitatea totală poate fi extinsă până la 2 TB de LPDRAM pe o platformă server cu opt canale, deschizând noi posibilități pentru aplicații AI și HPC, unde densitatea memoriei și eficiența termică sunt esențiale.

De la inițiativa NVIDIA la standard JEDEC

Conceptul SOCAMM a fost dezvoltat inițial de NVIDIA pentru serverele AI. În locul montării individuale a cipurilor LPDDR lângă procesor, noul format integrează mai multe cipuri pe un substrat compact, detașabil, optimizat pentru eficiență energetică și spațiu.

Procesoarele Grace dezvoltate de NVIDIA, echipate cu LPDDR5X, sunt deja utilizate în platforme precum GB300, alături de GPU-urile Blackwell. Însă SOCAMM2, noua generație, se află în proces de standardizare în cadrul JEDEC, ceea ce ar putea deschide calea pentru o adopție mult mai largă după 2026.

Interesul nu se limitează la NVIDIA. Potrivit informațiilor din industrie, Microsoft a confirmat planuri de integrare a memoriei LPDDR5X în viitoare arhitecturi de centre de date.

SOCAMM2 – O cursă strânsă între giganții memoriei

Pe acest fundal, principalii producători de DRAM – Samsung Electronics, SK hynix și Micron – au demarat deja dezvoltarea de soluții SOCAMM2 și au prezentat prototipuri.

Samsung a anunțat livrarea de mostre către NVIDIA, în timp ce estimările din piață indică posibile comenzi totale de aproximativ 20 miliarde Gb de module SOCAMM. Conform acestor proiecții, Samsung ar putea obține cea mai mare cotă, urmată de SK hynix și Micron.

O schimbare de paradigmă pentru centrele de date

Creșterea cererii pentru antrenarea și inferența modelelor AI, dar și pentru aplicații tradiționale de calcul intensiv, pune presiune pe infrastructura centrelor de date, unde consumul energetic și disiparea căldurii devin limitări majore.

În acest context, LPDRAM și formatul SOCAMM2 se conturează drept soluții strategice pentru următoarea generație de servere. Odată cu standardizarea oficială și extinderea adopției dincolo de ecosistemul NVIDIA, competiția dintre producători se anunță intensă, iar avantajul tehnologic ar putea face diferența într-o piață aflată în plină transformare.