Utilizarea AI pentru sfaturi medicale este „periculoasă”, conform unui studiu: Are tendința „de a furniza informații inexacte și inconsistente”

Utilizarea chatbot-urilor cu inteligență artificială (AI) pentru a obține sfaturi medicale poate fi „periculoasă”, conform unui nou studiu, transmite BBC News.

Cercetarea a constatat că utilizarea tehnologiei pentru a lua decizii medicale prezintă riscuri pentru pacienți, din cauza „tendinței sale de a furniza informații inexacte și inconsistente”.

Studiul a fost condus de cercetători de la Oxford Internet Institute și Departamentul Nuffield de Științe Medicale Primare de la Universitatea din Oxford și a fost publicat în revista științifică Nature Medicine.

Dr. Rebecca Payne, coautoare a studiului, a declarat că acesta a arătat că, „în ciuda tuturor exagerărilor, IA nu este încă pregătită să preia rolul medicului”.

„Pacienții trebuie să fie conștienți că interogarea unui model lingvistic de mari dimensiuni cu privire la simptomele lor poate fi periculoasă, deoarece poate duce la diagnostice greșite și la ignorarea momentului în care este nevoie de ajutor urgent”, a adăugat dr. Payne, care este și medic generalist.

Riscurile utilizării modelelor lingvistice în diagnosticare

În cadrul studiului, cercetătorii au cerut celor aproape 1.300 de participanți să identifice potențiale afecțiuni de sănătate și să recomande un plan de acțiune folosind diferite scenarii.

Unii participanți au folosit software-uri de AI cu modele lingvistice de mari dimensiuni (LLM) pentru a primi un diagnostic potențial și pașii următori, în timp ce alții au folosit metode mai tradiționale, cum ar fi consultarea unui medic generalist.

Cercetătorii au evaluat apoi rezultatele și au constatat că inteligența artificială furniza adesea „un amestec de informații bune și rele”, pe care utilizatorii le distingeau cu dificultate.

Ei au constatat că, deși chatbot-urile AI „excelează acum la testele standardizate de cunoștințe medicale”, utilizarea lor ca instrument medical „ar prezenta riscuri pentru utilizatorii reali care caută ajutor pentru propriile simptome medicale”.

„Aceste constatări evidențiază dificultatea de a construi sisteme AI care să poată sprijini cu adevărat oamenii în domenii sensibile și cu miză mare, cum ar fi sănătatea”, a spus dr. Payne.

Autorul principal al studiului, Andrew Bean, de la Oxford Internet Institute, a afirmat că studiul a arătat că „interacțiunea cu oamenii reprezintă o provocare” chiar și pentru LLM-urile cu cele mai bune performanțe.

„Sperăm că această lucrare va contribui la dezvoltarea unor sisteme de IA mai sigure și mai utile”, a adăugat el.

Te-ar putea interesa și: Purtătorul de cuvânt al Kremlinului recunoaște: „Folosim AI!”. Evenimentul pentru care Putin s-a pregătit cu ajutorul inteligenței artificiale