Un sistem AI poate prescrie acum medicamente pentru boli psihice într-un stat american

Statul Utah a lansat un program-pilot care permite unui chatbot bazat pe inteligență artificială (AI) să reînnoiască rețetele pentru medicamente psihiatrice fără intervenția directă a unui medic. Inițiativa, gestionată de startupul Legion Health, susținut de Y Combinator, marchează prima dată când un stat autorizează un sistem autonom de AI să se ocupe de reînnoirea rețetelor, având scopul de a remedia deficitul semnificativ de personal medical din domeniul sănătății mintale, transmite Gizmodo.

În cadrul perioadei de probă de 12 luni, pacienții „stabili”, care nu au suferit modificări ale medicației și nu au fost spitalizați în ultimul an, pot opta pentru un serviciu de abonament lunar de 19 dolari. AI este limitată la 15 medicamente cu risc scăzut, precum Prozac, Zoloft și Wellbutrin. Substanțele controlate, cum ar fi Adderall, sunt excluse din program.

Pentru a garanta siguranța în timpul implementării, primele 250 de rețete generate de chatbot vor fi revizuite de un medic autorizat. Sistemul trebuie să mențină o rată de aprobare de 98% înainte de a primi permisiunea să funcționeze fără supraveghere imediată.

Departamentul de Comerț din Utah a apărat această măsură, subliniind o lacună critică în infrastructura de sănătate a statului. „Majoritatea județelor din Utah au semnalat o penurie de furnizori de servicii de sănătate mintală, lăsând până la 500.000 de rezidenți fără acces adecvat la îngrijiri de sănătate comportamentală”, a transmis instituția.

Totuși, programul se află sub analiză atentă, după eșecurile unor proiecte medicale automatizate anterioare. Un program-pilot precedent din Utah, derulat de compania Doctronic, a fost compromis rapid de cercetători în domeniul securității, care au manipulat AI să genereze teorii conspiraționiste despre vaccinuri și să tripleze dozele de opioide.

Experții avertizează că modelele lingvistice de mari dimensiuni sunt încă vulnerabile la atacuri de tip „jailbreak”, ridicând întrebări serioase legate de eliminarea supravegherii umane.

Deși studiile arată că AI poate sprijini eficient medicii, reducând erorile și timpii de așteptare, criticii consideră că această tehnologie ar trebui să rămână un asistent, nu un înlocuitor. Persistă îngrijorările că, chiar și atunci când este folosită ca instrument, AI poate duce la „degradarea competențelor” în rândul profesioniștilor din domeniu.

În cele din urmă, deși obiectivul extinderii accesului la servicii de sănătate mintală este pe larg susținut, dependența de un chatbot autonom rămâne o soluție controversată și încă nedovedită la o criză complexă de sănătate publică.

Te-ar putea interesa și: 8 din 10 chatboți AI oferă informații despre atentate și asasinate chiar și minorilor