China anunță prima arestare pentru folosirea ChatGPT în scop abuziv

După ce au anunțat că versiunile chinezești de ChatGPT vor trebui să spună doar lucruri frumoase despre Partidul Comunist, autoritățile chineze confirmă prima arestare pentru folosirea ChatGPT în scop abuziv, de către un cetățean care ar fi folosit AI-ul în scopul generării de fake news pe tema unui accident de tren soldat cu nouă victime.

Identificat doar cu numele Hong, autorul de fake news operează o companiei independentă de social media și ar fi folosit Chat GPT pentru a crește popularitatea platformei, generând articole convingătoare care apoi să fie răspândite până la viralizare pe alte canale de informare populare (ex WeChat). Subiectul vizat, un accident de tren mortal care a ucis nouă persoane în provincia Gansu din nord-vestul Chinei este real, însă de aici Hong ar fi „înflorit” subiectul generând mai multe interpretări pe ChatGPT, încorporând detalii fictive menite doar să stârnească interesul cititorilor.

Arestarea lui Hong este prima reținere de la intrarea în vigoare a noului regulament din China privind  folosirea tehnologiei deepfake, în ianuarie. Legea urmărește să prevină folosirea greșită a tehnologiilor care pot altera datele faciale și vocale.

În timp ce soluții occidentale precum ChatGPT sunt blocate în China, serviciile acestora pot fi în continuare accesate din spatele unei conexiuni VPN, cu riscuri minime pentru utilizatorii care folosesc aceste tehnologii în scop personal. În schimb, companiile interesate să-și desfășoare activitatea în domeniul tehnologiilor generative AI trebuie să se înregistreze cu autoritățile locale și să se supună unor reglementări draconice, raportat la regulile de cenzură ale Partidului Comunist Chinez.