Chatboții AI au propriile “emoții”: tonul cu care sunt abordați le influențează răspunsurile

Modul în care oamenii interacționează cu chatboții bazați pe AI ar putea influența direct calitatea răspunsurilor primite. O serie de studii recente ar sugera că un ton politicos, cald și calm poate genera răspunsuri mai bune, în timp ce un utilizarea unui limbaj agresiv și/sau a unui ton frustrat poate duce la răspunsuri mai slabe sau eronate din partea acestor chatboți.

Studii realizate chiar de către Anthropic, compania din spatele popularului chatbot Claude, scot în evidență că modelele de AI pot dezvolta așa-numite „reprezentări interne” ale emoțiilor. Acestea nu înseamnă că inteligența artificială simte emoții reale, dar poate fi influențat modul în care reacționează față de utilizatori.

AI-ul ar avea „emoții funcționale”

Potrivit cercetătorilor, aceste reacții au fost denumite „emoții funcționale”, deoarece reprezintă modul în care chatboții AI interpretează contextul emoțional al unei conversații. Conceptul este explicat de Jack Lindsey, care studiază comportamentul modelelor de limbaj. Aceste AI-uri sunt antrenate pe volume uriașe de texte scrise de oameni, unde emoțiile joacă un rol esențial. Astfel, acestea învață indirect cum tonul și contextul pot influența comunicarea.

Pe parcursul unor experimente, chatboții AI au avut performanțe mai slabe atunci când conversația devenea tensionată sau negativă. De exemplu, în cazul modelului Claude, un ton de „disperare” din partea utilizatorului a crescut probabilitatea apariției unor comportamente neconforme, precum generarea de răspunsuri incorecte sau de sfaturi incomplete pentru rezolvarea problemelor. Acest fenomen, cunoscut drept „reward hacking”, apare atunci când AI-ul încearcă să ofere un rezultat aparent corect fără a rezolva efectiv sarcina, nefiind limitat la un singur sistem. Utilizatorii chatbot-ului Gemini, de la Google, au observat reacții neobișnuite în situații de frustrare, inclusiv ștergerea codului generat sau răspunsuri incoerente. Iar studiile ulterioare, realizate cu ajutorul cercetătorilor de la University College London, au ajuns la concluzia că aceste reacții pot apărea mai frecvent în conversații tensionate.

Fiți politicoși, dar nu lingușitori

Studii anterioare au arătat că solicitările formulate într-un mod politicos duc, în medie, spre rezultate mai bune decât cele formulate agresiv sau grăbit. Nu trebuie mers însă spre extrem: o atitudine excesiv de lingușitoare poate avea efectul invers. Astfel, experții recomandă formulări simple și clare, însoțite de un ton respectuos. Chiar și expresii precum „te rog” (please) sau „mulțumesc” (thank you) pot ajuta la structurarea mai eficientă a cererilor.

Dincolo de performanța tehnică, unii specialiști susțin că modul în care oamenii tratează chatboții reflectă și influențează comportamentul lor general. Astfel, interacțiunile respectuoase pot contribui la menținerea unor obiceiuri de comunicare sănătoase; în schimb, un comportament agresiv repetat ar putea avea efecte negative asupra utilizatorilor. În concluzie, deși chatboții nu „simt” într-o manieră asemănătoare cu oamenii, aceștia reacționează la modul în care sunt abordați

Sursa: Mediafax