SanDisk pregătește o nouă arhitectură de memorie pentru AI: procesoare integrate direct în NAND și HBM pe același interposer

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

SanDisk explorează noi soluții pentru depășirea limitărilor actualelor memorii destinate inteligenței artificiale. Compania a brevetat o arhitectură care combină memoria NAND, procesoarele și modulele HBM într-un singur sistem integrat.

În timp ce dezvoltă tehnologia High Bandwidth Flash (HBF), SanDisk lucrează și la alte concepte menite să rezolve problemele de capacitate și performanță ale infrastructurilor moderne de calcul.

Un brevet american publicat recent descrie o soluție care integrează un procesor multi-core direct pe un modul de memorie NAND bazat pe tehnologia CBA (CMOS Bonded to Array).

Un procesor montat direct pe memoria NAND

Noua arhitectură propusă de SanDisk combină o matrice extinsă de memorie NAND cu un strat logic CMOS. Peste această structură este integrat un procesor multi-core. Ansamblul rezultat este apoi montat pe un interposer, o platformă utilizată pentru conectarea componentelor de înaltă performanță.

În jurul acestui modul sunt amplasate mai multe stive de memorie HBM. Scopul este crearea unui sistem care să ofere atât capacitate mare de stocare, cât și acces rapid la date.

Limitele memoriei HBM devin tot mai evidente

Memoria HBM este esențială pentru acceleratoarele AI moderne și pentru procesoarele grafice de ultimă generație. Totuși, această tehnologie are o limitare importantă: capacitatea redusă. În prezent, o stivă HBM oferă de regulă între 32 și 64 GB de memorie.

Pentru aplicațiile AI de mari dimensiuni, aceste valori devin insuficiente. Din acest motiv, SanDisk a prezentat anterior conceptul HBF, care utilizează stive verticale de memorie NAND conectate prin TSV-uri (Through-Silicon Vias).

HBF promite capacități de până la 4 TB

Potrivit companiei, HBF poate ajunge la o capacitate de până la 4 TB. Această valoare este de 8 până la 16 ori mai mare decât cea oferită de HBM. SanDisk susține că noua tehnologie poate furniza o lățime de bandă apropiată de cea a memoriei HBM, la un cost similar.

Totuși, memoria NAND rămâne mai lentă decât DRAM-ul folosit în soluțiile HBM. Această diferență apare deoarece NAND se află mai departe de unitatea de calcul.

O ierarhie nouă pentru memorie și procesare

Pentru a reduce acest dezavantaj, brevetul propune o structură tridimensională. Memoria NAND este poziționată direct sub un modul de calcul, care poate fi un accelerator AI sau un procesor grafic.

În același timp, memoria HBM rămâne prezentă pe același interposer. Fiecare tip de memorie primește însă un rol distinct. HBM gestionează operațiunile care necesită acces imediat și viteză maximă. Stratul NAND este responsabil de sarcinile intensive de citire și scriere și de stocarea unor volume mari de date.

O posibilă direcție pentru viitoarele sisteme AI

Noua arhitectură încearcă să combine avantajele ambelor tehnologii. HBM oferă performanță ridicată și latență redusă. NAND aduce capacitate mare și costuri mai mici.

Prin integrarea unui procesor direct în structura memoriei, SanDisk urmărește să simplifice transferul de date și să reducă complexitatea sistemului.

Deși brevetul nu garantează apariția unui produs comercial, acesta oferă o imagine clară asupra direcției în care compania își dezvoltă tehnologiile pentru centrele de date și aplicațiile bazate pe inteligență artificială.