O femeie a fost arestată după ce Anthropic a semnalat poliției o conversație pe Claude

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Autoritățile din Florida au arestat o femeie după ce compania Anthropic, dezvoltatorul de modele de inteligență artificială, a alertat forțele de ordine cu privire la o conversație pe Claude în care aceasta ar fi amenințat că va „trage cu arma” asupra Biroului Șerifului din comitatul Lee, transmite TNW.

Conform unui raport de arestare publicat inițial de WINK News, femeia a făcut declarația amenințătoare pe 26 septembrie și a menționat că va achiziționa o nouă armă de foc a doua zi.

Anchetatorii au declarat că sistemele interne ale Anthropic monitorizează conversațiile pentru a detecta cuvinte-cheie asociate unor amenințări. Având în vedere gravitatea afirmațiilor, conversația a fost direcționată către o echipă umană de verificare, care a transmis amenințarea autorităților.

Adjuncții șerifului au reținut-o pe femeie la domiciliul ei fără incidente și au predat ancheta unui detectiv. Șeriful Carmine Marceno a declarat pentru WINK News că suspecta a susținut ulterior că a folosit chatbotul ca pe un „jurnal”. „Inteligența artificială este un instrument puternic și, ca orice tehnologie, poate fi folosită în mod abuziv”, a declarat Marceno într-un comunicat. „Când cineva folosește IA pentru a formula sau a facilita o amenințare, trebuie să luăm acea amenințare în serios. Utilizatorii trebuie să înțeleagă că nu sunt niciodată cu adevărat anonimi”, a adăugat acesta.

Tom’s Hardware a relatat că procurorii au formulat o acuzație de infracțiune gravă pe 30 septembrie, în temeiul articolului 836.10 din legislația statului Florida, text care interzice amenințările scrise sau electronice privind atacuri armate în masă sau terorism. Inculpatei i-a fost desemnat un apărător din oficiu înaintea audierii preliminare din 2 noiembrie, în timp ce Anthropic nu a emis niciun comentariu public.

Conform politicii sale de confidențialitate, Anthropic permite partajarea datelor cu autoritățile de aplicare a legii atunci când consideră că divulgarea este „rezonabil necesară” pentru a preveni prejudicii grave aduse persoanelor sau proprietății. Solicitările guvernamentale necesită, în general, o procedură legală, cu excepția situațiilor de urgență care implică un pericol fizic iminent sau moartea.

Cazul marchează cel puțin a treia oară din luna august când conversațiile cu Claude determină intervenția poliției, după o arestare în San Antonio legată de o amenințare cu atac armat într-o școală și o amenințare neîncadrată penal împotriva șefului Anthropic, Dario Amodei, în San Francisco.

Și compania rivală OpenAI a raportat utilizatori autorităților, inclusiv un bărbat din Florida condamnat la eliberare condiționată sub supraveghere pentru amenințări la adresa unei foste iubite. OpenAI se confruntă, de asemenea, cu o anchetă, precum și cu o acțiune în justiție deschisă de procurorul general al statului Florida, deoarece nu a notificat poliția cu privire la contul autorului atacului armat de la Tumbler Ridge.