Qualcomm promite să spargă „memory wall” din AI cu o nouă arhitectură și acceleratoare dedicate

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Qualcomm a prezentat o nouă arhitectură destinată inteligenței artificiale, denumită High Bandwidth Compute (HBC), care promite să elimine una dintre cele mai mari limitări ale sistemelor moderne de AI: accesul la memorie.

Compania susține că noua soluție oferă o eficiență energetică superioară memoriei HBM și o capacitate mult peste cea a memoriei SRAM integrate.

Anunțul a fost făcut în cadrul unei prezentări dedicate centrelor de date și noilor acceleratoare AI ale companiei.

Qualcomm – O abordare diferită pentru acceleratoarele AI

În ultimii ani, performanța acceleratoarelor pentru inteligență artificială a crescut într-un ritm mai rapid decât viteza cu care a evoluat accesul la memorie. Acest dezechilibru, cunoscut în industrie drept „memory wall”, a devenit un obstacol major pentru aplicațiile AI complexe.

Pentru a rezolva problema, Qualcomm a separat acceleratorul AI de sistemul principal și l-a amplasat direct sub un pachet de memorie LPDDR. Conexiunea dintre cele două componente se realizează prin tehnologii verticale de interconectare, ceea ce permite acces rapid la cantități mari de date fără utilizarea memoriei HBM.

Compania afirmă că noua arhitectură oferă o eficiență de șase ori mai mare în raport cu consumul energetic comparativ cu HBM și o capacitate de peste 200 de ori mai mare decât memoria SRAM integrată în cipuri.

Mai puțină căldură și costuri reduse

Tony Pialis, vicepreședinte executiv și director general al diviziei de centre de date Qualcomm, a explicat că noua abordare combină avantajele memoriei rapide cu densitatea oferită de modulele DRAM suprapuse.

Potrivit acestuia, arhitectura HBC elimină blocajele asociate memoriei HBM, reduce consumul de energie și generează mai puțină căldură. În plus, soluția nu necesită interpozorii de siliciu costisitori utilizați în prezent de platformele bazate pe HBM.

Qualcomm susține că mai multe module HBC pot fi integrate într-un singur dispozitiv folosind metode standard de ambalare a cipurilor, ceea ce ar putea aduce avantaje importante din punct de vedere al costurilor.

Qualcomm – O idee veche, reinterpretată

Conceptul de apropiere a memoriei de unitățile de calcul nu este nou. Producătorii de memorii au experimentat în repetate rânduri astfel de arhitecturi, însă fără un succes comercial major.

Mai recent, compania GUC a propus tehnologia DRAM-on-Logic, care plasează mai multe straturi de memorie direct peste logica de procesare. Această soluție poate atinge o lățime de bandă de aproximativ 5 TB/s și promite performanțe comparabile cu unele configurații bazate pe HBM3E.

Deocamdată, Qualcomm nu a oferit cifre concrete privind performanța HBC, ceea ce face dificilă o comparație directă cu alte tehnologii similare.

O nouă generație de acceleratoare AI

Odată cu arhitectura HBC, Qualcomm a prezentat și planurile pentru viitoarele sale acceleratoare dedicate inteligenței artificiale.

Modelul AI200, programat pentru lansare în cursul acestui an, va utiliza memorie LPDDR5X și va putea oferi până la 43 TB de memorie per rack. Succesorul său, AI250, va adopta prima generație HBC și va furniza o lățime de bandă de 18 ori mai mare decât AI200.

Ulterior, acceleratorul AI300 va integra a doua generație HBC, care ar urma să ofere o lățime de bandă de 54 de ori mai mare decât cea disponibilă pe actuala generație AI200.

Prin această strategie, Qualcomm încearcă să se poziționeze mai agresiv pe piața centrelor de date și a infrastructurii pentru inteligență artificială, un segment dominat în prezent de soluțiile bazate pe HBM și acceleratoarele dezvoltate de rivalii săi.