Microsoft pregătește un cip AI de nouă generație. Maia 300 ar putea face Copilot și Teams mult mai rapide

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Microsoft a prezentat Maia 300, un accelerator AI de nouă generație, conceput pentru a susține dezvoltarea serviciilor bazate pe inteligență artificială. Compania promite performanțe mai bune și un consum mai eficient de energie, iar primele implementări sunt programate pentru 2027. Printre produsele care ar putea beneficia de noul hardware se numără Microsoft 365 Copilot, Teams, Cowork și GitHub Copilot.

Noul cip face parte din planul Microsoft de a-și extinde infrastructura AI și de a reduce costurile asociate rulării modelelor la scară mare. Accentul cade pe inferență, adică procesul prin care un model AI generează răspunsuri și execută sarcini după ce a fost antrenat.

Maia 300 – De până la șapte ori mai multe tokenuri pe un rack

Microsoft susține că Maia 300 va putea procesa cu 40% mai multe tokenuri pentru fiecare megawatt consumat decât alte sisteme de top bazate pe GPU-uri. Tokenurile sunt unitățile în care modelele AI împart textul și alte date pentru procesare.

Compania estimează că un rack cu 96 de acceleratoare Maia 300 va putea oferi un debit de până la șapte ori mai mare decât un rack echipat cu Maia 200. Câștigul ar putea conta mai ales pentru serviciile care trebuie să răspundă rapid unui număr mare de utilizatori sau să gestioneze cereri complexe.

Microsoft vrea să folosească noul accelerator pentru sarcini care implică raționament pe texte lungi, conversații rapide și agenți AI capabili să execute mai mulți pași succesivi. Aceste capacități sunt importante pentru instrumentele care nu se limitează la un simplu răspuns, ci pot analiza informații și duce la capăt sarcini mai elaborate.

Memorie HBM4 și o arhitectură construită pentru AI

Maia 300 folosește o arhitectură pe care Microsoft o descrie drept „inference-first”, proiectată special pentru rularea modelelor AI. Ideea este de a reduce transferurile inutile de date și de a utiliza mai eficient procesarea, memoria și rețeaua de comunicații.

Memoria joacă un rol esențial. Acceleratorul va avea opt stive HBM4 și o lățime de bandă maximă declarată de 18 TB/s. Consumul termic proiectat ajunge la 950 W.

Cipul va folosi și o arhitectură multi-chiplet, care separă componentele pentru calcul, controlul memoriei și intrări-ieșiri. Chipleturile de calcul vor fi fabricate de TSMC folosind procesul N2P.

Microsoft mizează și pe formate numerice cu precizie redusă, inclusiv o versiune îmbunătățită MXFP4. Acestea pot diminua necesarul de memorie și lățimea de bandă, ceea ce permite procesarea unor volume mai mari de date în aceleași limite de consum.

O altă componentă este memoria SRAM integrată, pe care software-ul o poate folosi ca spațiu temporar de lucru. Astfel, sistemul poate reduce presiunea asupra memoriei HBM în cazul operațiunilor solicitante.

Un rack consumă până la 167 kW

Un rack Maia 300 va include 96 de acceleratoare și va avea un consum total de până la 167 kW. Capacitatea cumulată a memoriei HBM va ajunge la 27,6 TB, iar lățimea de bandă agregată va fi de 1,7 petabytes pe secundă.

Conectivitatea dintre acceleratoare a fost proiectată pentru a susține transferul rapid al datelor și împărțirea calculelor între mai multe cipuri. Microsoft va folosi legături de mare viteză pentru procesarea paralelă, alături de un sistem de transport AI bazat pe infrastructură Ethernet.

Compania spune că arhitectura poate fi extinsă de la un singur rack la nivelul unui întreg centru de date. O densitate mai mare de acceleratoare ar permite rularea simultană a mai multor sesiuni AI și gestionarea unor sarcini mai ample.

Ce se schimbă pentru Copilot și Teams

Microsoft pregătește Maia 300 pentru o gamă largă de servicii. Pe listă se află Microsoft Foundry, platforma destinată dezvoltării și operării aplicațiilor AI, dar și instrumentele de programare bazate pe inteligență artificială din GitHub.

Compania vrea să îmbunătățească și experiența oferită de Copilot, Teams și Cowork. Un hardware mai eficient ar putea reduce costurile de operare și ar permite gestionarea unui volum mai mare de solicitări. În funcție de modul în care va fi folosit, acest lucru s-ar putea traduce prin răspunsuri mai rapide și o disponibilitate mai bună a funcțiilor AI.

Microsoft nu a anunțat însă îmbunătățiri concrete pentru fiecare aplicație și nici nu a oferit rezultate de utilizare care să confirme câștigurile în situații reale.

Maia 300 continuă dezvoltarea începută cu Maia 200

Noul accelerator vine după Maia 200, pe care Microsoft spune că îl folosește deja pentru sarcini de producție, inclusiv în Microsoft 365 Copilot și pentru modelele dezvoltate de echipa sa de inteligență artificială.

Potrivit companiei, Maia 200 oferă până la 1,7 ori mai multe tokenuri per watt decât infrastructura GPU de top pentru funcțiile AI integrate în Teams, Copilot și Cowork. Microsoft intenționează să extindă utilizarea cipului și la GitHub Copilot și Microsoft Foundry până la sfârșitul acestui an.

Maia 300 este programat să intre în implementare în 2027. Până atunci, rămâne de văzut în ce măsură cifrele anunțate de Microsoft se vor reflecta în performanța serviciilor pe care le folosim zi de zi.