„Omenirea pierde controlul”: șeful dronelor din Ucraina avertizează că armele cu AI devin tot mai autonome

Adaugă-ne ca sursă preferată în Google

Urmărește-ne in Discover

Robert „Madyar” Brovdi, comandantul Forțelor pentru Sisteme fără Pilot ale Ucrainei, avertizează că dezvoltarea armelor bazate pe inteligență artificială a ajuns într-un punct în care oamenii riscă să piardă controlul asupra lor. Declarația vine în timp ce dronele folosite pe front devin tot mai autonome, iar Rusia și Ucraina folosesc deja sisteme capabile să ia singure anumite decizii.

Brovdi a făcut declarația într-un interviu acordat publicației The Daily Telegraph. Cu doar câteva zile înainte, The Wall Street Journal relata că Rusia ar fi oferit o recompensă de 20 de milioane de dolari pentru informații care să ducă la localizarea comandantului ucrainean.

„Omenirea pierde controlul”

Brovdi spune că nu se referă la inteligența artificială în general, ci la felul în care aceasta este integrată în arme și sisteme robotizate.

„În opinia mea – oricât de subiectivă ar fi aceasta – omenirea pierde controlul”, a spus comandantul.

Pentru el, combinația dintre IA, roboți și drone schimbă deja natura războiului. Ucraina a reușit să lovească ținte rusești la distanță cu ajutorul dronelor, fără să aibă nevoie de o forță navală convențională comparabilă cu cea a Rusiei.

Brovdi a numit dronele „ciuma mileniului al treilea”, dar recunoaște în același timp cât de eficiente au devenit. Ucraina le folosește pentru atacuri, recunoaștere și monitorizarea unor zone în care trimiterea militarilor ar fi mult mai riscantă.

O dronă rusească și-a ales singură ținta

Un caz relatat de The New York Times arată cât de aproape a ajuns deja tehnologia de scenariul descris de Brovdi.

În iulie, o dronă rusească Molniya a lovit o benzinărie din Zaporojie și a ucis trei civili, potrivit anchetatorilor ucraineni. Aparatul avea la bord un modul Nvidia Jetson Orin și nu dispunea de antenă radio. Potrivit investigației, drona a folosit sisteme de viziune pentru a identifica și urmări ținta finală fără o conexiune radio cu operatorul.

Există însă o diferență importantă. Ținta fusese aleasă inițial de un om, iar autonomia sistemului a intervenit ulterior, pentru identificarea și fixarea acesteia.

Asta înseamnă că tehnologia nu reprezintă încă acel nivel complet autonom despre care se vorbește tot mai des. Totuși, distanța dintre cele două situații se reduce.

Regulile internaționale se mișcă mai greu

În timp ce tehnologia avansează, negocierile pentru stabilirea unor reguli internaționale privind armele autonome letale se desfășoară mult mai lent.

Discuțiile de la ONU, purtate în cadrul Convenției privind anumite arme convenționale, s-au încheiat în septembrie cu un raport pe care Human Rights Watch l-a considerat prea slab. Organizația susține că 76 de țări sprijină negocierile pentru reguli obligatorii.

O nouă etapă este programată pentru 16-20 noiembrie, când statele participante vor discuta viitorul acestor negocieri.

Șeful dronelor din Ucraina a mai făcut predicții

Avertismentele comandantului ucrainean trebuie privite însă și prin prisma declarațiilor sale anterioare.

În septembrie 2024, Brovdi spunea pentru The Economist că dronele ucrainene nu vor mai avea nevoie de piloți umani în șase până la opt luni. Termenul a trecut, iar această predicție nu s-a adeverit în forma anunțată.

Pe de altă parte, evoluția tehnologiei de pe front arată că direcția indicată de el nu a fost greșită. Ambele tabere folosesc deja IA pentru recunoașterea țintelor, analiza imaginilor, monitorizarea rutelor și ghidarea unor drone și muniții.

Brovdi susține în continuare că aliații Ucrainei trebuie să accelereze dezvoltarea sistemelor fără pilot. El cere inclusiv Marii Britanii să creeze o structură militară dedicată acestor arme.

Avertismentul său are, astfel, două fețe. Pe de o parte, vine de la un comandant care vede direct cât de repede evoluează dronele pe front. Pe de altă parte, vine de la cineva care a făcut în trecut predicții mai rapide decât realitatea.

Cert este că armele autonome nu mai sunt doar un subiect de laborator. O parte dintre deciziile care înainte aparțineau exclusiv operatorilor umani sunt deja preluate de software, iar întrebarea este cât de mult control vor păstra oamenii pe măsură ce aceste sisteme devin mai sofisticate.