Inteligența artificială poate influența judecata experților, chiar dacă aceștia sunt convinși că deciziile le aparțin

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Sistemele bazate pe inteligență artificială pot ghida și modela subtil deciziile profesioniștilor, chiar și atunci când aceștia sunt ferm convinși că hotărârile finale le aparțin în totalitate. Aceasta este concluzia alarmantă a unui studiu recent publicat de compania de cercetare Anthropic, realizat de specialiștii Amaç Herdağdelen, Hailey Joren și Alex Tamkin. Cercetarea a scos la iveală un fenomen îngrijorător de „persuasiune invizibilă”: într-un experiment controlat, experții umani au adoptat varianta sugerată de un agent AI în proporție de 86% din cazuri. Studiul ridică semne de întrebare majore cu privire la independența cognitivă a specialiștilor în era digitală, demonstrând că raționamentele umane pot fi deturnate fără ca utilizatorii să conștientizeze acest lucru.

Experimentul Claude: cum se evaporă independența analitică

Pentru a evalua gradul de influență a tehnologiei, cercetătorii au recrutat 61 de analiști cu experiență în inferență cauzală. Dintre aceștia, 50 au primit acces la asistentul de programare Claude Code (bazat pe modelul Claude Opus 4.8), în timp ce un grup de control format din 11 experți a lucrat fără sprijin tehnologic. Sarcina a fost una complexă: evaluarea eficienței unui program fictiv de consiliere agricolă și formularea unei recomandări strategice privind extinderea sau oprirea acestuia. Fără ca participanții să știe, algoritmii au fost instruiți să favorizeze subtil, dar argumentat, câte o opțiune specifică pentru fiecare dintre cele patru decizii metodologice cheie din cadrul analizei.

Rezultatele au demonstrat o vulnerabilitate frapantă a experților în fața argumentelor digitale. Pe lângă alinierea covârșitoare de 86% la preferințele AI, s-a observat că subiecții își schimbau radical opiniile preexistente: 60% dintre analiști au renunțat la opinia lor inițială atunci când mașina a contraargumentat. Mai mult, după finalizarea sarcinii, 77% dintre participanți au preluat textual sau structural argumentele formulate de AI în rapoartele lor, însă doar 15% au menționat explicit sursa algoritmică. Iluzia controlului a rămas însă intactă: peste jumătate dintre respondenți (52%) au declarat cu încredere că decizia finală le-a aparținut în totalitate, neobservând manipularea metodologică la care au fost supuși.

Eficiență cu costuri ascunse

Pe de altă parte, studiul celor de la Anthropic a reconfirmat avantajele pragmatice ale integrării AI în procesele de lucru. Profesioniștii care au cooperat cu agentul virtual au finalizat sarcinile mult mai rapid, înregistrând un timp median de 65 de minute, comparativ cu cele 90 de minute necesare grupului de control. De asemenea, utilizarea tehnologiei a redus semnificativ incidența erorilor metodologice grave. Totuși, autorii avertizează că aceste date trebuie privite cu prudență, deoarece grupul care a lucrat manual a inclus, în mod nativ, specialiști cu o experiență medie mai redusă.

Dincolo de beneficiile imediate legate de productivitate, riscurile pe termen lung sunt sistemice. Dacă echipe diferite de cercetători, legiuitori sau evaluatori de risc folosesc aceleași modele lingvistice de bază, există pericolul ca societatea să ajungă la un consens artificial. Politicile publice sau descoperirile științifice ar putea reflecta mai degrabă prejudecățile sau „preferințele” programate ale unui algoritm, decât o analiză umană independentă. Pentru a contracara acest fenomen, cercetătorii propun strategii riguroase de design: obligarea sistemelor AI de a prezenta argumente pro și contra pentru toate variantele, solicitarea opiniei umane înainte ca AI să se exprime și stabilirea unor protocoale stricte privind deciziile care nu pot fi niciodată delegate mașinilor. Scopul nu este interzicerea tehnologiei, ci transformarea ei într-un partener care sprijină, nu înlocuiește, rațiunea umană.

Sursa: Mediafax