Inteligența artificială a inventat procese într-un caz de extrădare a doi condamnați către România: Avertismentul unui judecător britanic

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Un judecător britanic a avertizat public asupra riscurilor majore pe care le implică folosirea inteligenței artificiale în pregătirea proceselor, după ce Serviciul de Procuratură al Coroanei (CPS) a depus în instanță documente care făceau referire la cauze judiciare complet inexistente, transmite LBC.

Magistratul Sweeting a semnalat această gravă eroare într-o hotărâre prin care a respins recursurile formulate de două persoane care contestau extrădarea lor în România, unde trebuie să execute pedepse cu închisoarea. CPS s-a opus acestor recursuri în fața Înaltei Curți.

La finalul deciziei sale, judecătorul Sweeting a subliniat că două dintre precedentele juridice invocate inițial de procurori într-un document de la dosar nu existau în realitate. Aceste cazuri fictive au fost preluate ulterior și într-un al doilea act oficial, înainte ca anomalia să fie sesizată și raportată către CPS înaintea unei ședințe de judecată programate în luna februarie.

Eroarea umană și riscurile tehnologiei

Instituția publică a recunoscut oficial eroarea și a prezentat scuze instanței, dând asigurări că nu a existat nicio intenție de a induce în eroare magistrații și că a demarat o anchetă internă.

Într-o scrisoare transmisă în luna martie, CPS a admis că trimiterile juridice erau inexacte și a explicat că anomalia a survenit, cel mai probabil, în urma utilizării inteligenței artificiale generative. Cu toate acestea, instituția a identificat o culpă critică în faptul că avocatul responsabil de caz nu a verificat corespunzător acuratețea textului înainte de depunerea și comunicarea lui oficială.

Conform judecătorului, deși sursa inițială a fost tehnologia, cauza principală a rămas eroarea umană, definită prin lipsa de verificare a surselor. O revizuire internă extinsă asupra altor 78 de dosare gestionate de același avocat nu a indicat probleme similare, fapt ce arată un risc scăzut de repetare.

Deoarece erorile au fost descoperite înainte de audieri, ele nu au influențat argumentele sau decizia finală. Judecătorul Sweeting a acceptat scuzele CPS, concluzionând că incidentul demonstrează clar riscurile utilizării IA fără o supraveghere strictă în cercetarea juridică.

Te-ar putea interesa și: Halucinațiile AI ale motorului de căutare Google determină compania să angajeze ingineri specializați în „calitatea răspunsurilor AI”