Google a lansat o aplicație care permite rularea locală de modele AI

Săptămâna trecută, Google a lansat, discret, o aplicație care permite utilizatorilor să ruleze o gamă de modele AI disponibile public de pe platforma de dezvoltare AI Hugging Face pe telefoanele lor. AI Edge Gallery, despre aceasta este vorba, este disponibilă pentru Android și va ajunge în curând și pe iOS.

Aplicația permite utilizatorilor să găsească, să descarce și să ruleze modele compatibile care generează imagini, răspund la întrebări, scriu și editează cod și multe altele. Modelele rulează offline, fără a fi nevoie de o conexiune la internet, accesând procesoarele telefoanelor compatibile.

Modelele AI care rulează în cloud sunt adesea mai puternice decât cele locale, dar au și dezavantajele lor. Unii utilizatori ar putea fi precauți în a trimite date personale sau sensibile către un centru de date sau ar putea dori să aibă modele disponibile fără a fi nevoie să găsească o conexiune la Internet.

AI Edge Gallery poate fi descărcată de pe GitHub

AI Edge Gallery, pe care Google o numește o „versiune experimentală Alpha”, poate fi descărcată de pe GitHub. Ecranul de pornire afișează comenzi rapide către sarcini și capabilități AI, cum ar fi „Întreabă imaginea” și „Chat AI”. Prin accesare unei capabilități AI se afișează o listă de modele potrivite pentru sarcina solicitată, cum ar fi Gemma 3n de la Google.

Aplicația oferă, de asemenea, un „Prompt Lab” pe care utilizatorii îl pot folosi pentru a demara sarcini „single-turn” bazate pe modele, cum ar fi rezumarea și rescrierea textului. Prompt Lab vine cu mai multe șabloane de sarcini și setări configurabile pentru a regla fin comportamentul modelelor.

Performanța poate varia, avertizează Google. Dispozitivele moderne cu hardware mai puternic vor rula modelele, clar, mai rapid, dar și dimensiunea lor contează. Modelele mai mari vor necesita mai mult timp pentru finalizare decât cele mai mici.

Google cere membrilor comunității de dezvoltatori să ofere feedback cu privire la AI Edge Gallery. Aplicația se află sub o licență Apache 2.0, ceea ce înseamnă că poate fi utilizată în majoritatea contextelor – comerciale sau de altă natură – fără restricții.

Sursa: TechCrunch