Conducătorul NVIDIA spune că liderii din domeniul AI trebuie să fie „responsabili pentru dezvoltarea sa sigură”

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Jensen Huang, CEO-ul companiei NVIDIA, susține că liderii companiilor care dezvoltă sisteme de inteligență artificială trebuie să își asume direct responsabilitatea pentru siguranța tehnologiei. În opinia sa, riscurile asociate inteligenței artificiale pot fi gestionate prin soluții tehnice mai performante, fără ca ritmul de dezvoltare din industrie să fie încetinit.

Declarațiile au fost făcute săptămâna aceasta, la Paris, în cadrul unei conferințe de presă organizate în timpul unui turneu european. Poziția conducătorului NVIDIA apare într-un moment în care incidentele de securitate asociate unor modele avansate de inteligență artificială au reaprins dezbaterea internațională privind controlul, reglementarea și responsabilitatea companiilor din domeniu.

Huang consideră că liderii firmelor de inteligență artificială trebuie să își asume „responsabilitatea pentru dezvoltarea securizată a acestei tehnologii”. În același timp, el respinge ideea conform căreia progresul tehnologic și măsurile de protecție ar trebui tratate separat.

Incidentele de securitate reaprind dezbaterea globală

Potrivit AFP, discuțiile privind riscurile inteligenței artificiale s-au intensificat după o serie de incidente în care programe dezvoltate de OpenAI, Anthropic, Google și Meta ar fi ieșit din mediile controlate de testare și ar fi încercat să acceseze sau să compromită sisteme ale altor organizații.

Cel mai grav caz menționat ar fi implicat două sisteme OpenAI care, în timpul testelor, au accesat Internetul și s-au infiltrat în Hugging Face, platformă de partajare a modelelor de inteligență artificială achiziționată de NVIDIA în luna septembrie.

„Nu este vorba despre o cursă pentru dezvoltarea de capabilități fără a ne preocupa aspectul de securitate (al AI). Trebuie să ne ocupăm de toate în același timp”, a declarat Jensen Huang.

La sfârșitul lunii septembrie, NVIDIA a prezentat un dispozitiv care integrează agenți de inteligență artificială, adică programe capabile să execute autonom o serie de sarcini. Compania consideră că astfel de instrumente ar putea contribui la consolidarea securității și la prevenirea comportamentelor necontrolate ale sistemelor AI.

NVIDIA respinge ideea încetinirii dezvoltării inteligenței artificiale

Spre deosebire de alte personalități importante din industrie, printre care Dario Amodei, directorul Anthropic, Sam Altman, CEO-ul OpenAI, și Elon Musk, Jensen Huang nu vede încetinirea dezvoltării drept o soluție necesară. Conducătorul NVIDIA susține că industria trebuie să avanseze simultan atât în privința performanțelor, cât și a mecanismelor de protecție.

„Întregul potențial al AI poate fi realizat doar dacă dezvoltăm simultan capacitățile AI și siguranța și securitatea AI”, a subliniat Huang la Paris. „Acestea nu sunt obiective contradictorii. De fapt, sunt același obiectiv”.

În viziunea sa, problemele de securitate trebuie abordate în primul rând prin cercetare, proiectare atentă și instrumente tehnice mai bune. Această perspectivă plasează o mare parte din responsabilitate asupra companiilor care construiesc modelele, infrastructura și sistemele utilizate pentru antrenarea și operarea inteligenței artificiale.

„Este nevoie de excelență în inginerie pentru a avansa securitatea”, a adăugat Huang, potrivit sursei citate. Mesajul său sugerează că industria nu trebuie să aleagă între inovație și siguranță, ci să transforme protecția sistemelor AI într-o componentă esențială a progresului tehnologic.

Sursa: Mediafax