Discuțiile, programate să se desfășoare până vineri, au loc pe fondul unor avertismente severe lansate de Comitetul Internațional al Crucii Roșii (CICR) cu privire la pericolul reprezentat de „roboţilor ucigaşi”, care „reduc fiinţele umane la nişte date” transmite Agerpres.
Laurent Gisel, șeful Unității Arme și Conduita Ostilităților din cadrul CICR, atrage atenția asupra necesității urgente de a stabili reguli obligatorii pentru armele autonome. Expertul subliniază că este vital ca un cadru legal să fie implementat înainte ca aceste sisteme imprevizibile și greu de controlat să fie desfășurate la scară largă pe front. Deși publicul larg face o confuzie frecventă, Gisel clarifică natura tehnologiei: „Se asociază foarte des dezbaterea despre armele autonome cu dronele”, dar „autonomia este o capacitate ce poate fi integrată în orice tip de armă, precum o rachetă sau o bombă”.
Conceptul de armă capabilă să reacționeze fără intervenție umană nu este o noutate, iar unele dintre aceste sisteme „există de decenii”, explică specialistul CICR. Un exemplu clasic îl reprezintă sistemele de apărare antirachetă de pe navele de război, care detectează automat amenințările și ripostează. În fața unei rachete cu viteză foarte mare, soldații doar supraveghează procesul, fără a aproba individual fiecare interceptare, riscurile pentru civili fiind limitate în acest context maritim. La polul opus, minele antipersonal reprezintă o formă veche de armament autonom, interzisă la nivel global tocmai pentru caracterul său nediscriminatoriu, deoarece nu pot face diferența între un combatant și un civil.
Cu toate acestea, accelerarea inteligenței artificiale aduce pericole inedite. „Ceea ce ne preocupă în mod special sunt evoluţiile pe care le vedem astăzi pe câmpurile de luptă”, afirmă Gisel, referindu-se la armele ofensive care „caută ţinte”. El dă exemplul munițiilor ghidate ce detectează și distrug automat radarele inamice, existând riscul ca acestea să lovească infrastructuri cu uz mixt, utilizate și de civili. Dreptul internațional umanitar, ale cărui Convenții de la Geneva sunt păzite de CICR, impune strict distincția între civili și combatanți, dar și între obiectivele militare și cele civile.
Ființele umane, reduse la date
Poziția Crucii Roșii nu vizează interzicerea totală a automatizării, ci strict a armelor a căror funcționare este imprevizibilă și a celor care au ca țintă directă ființele umane. Dincolo de aspectele legale, apare o dilemă etică majoră: „Aceste arme reduc fiinţele umane la date captate de senzori şi analizate de algoritmi. Acest proces automat este cel care, în final, decide cine trăieşte şi cine moare”, avertizează Laurent Gisel. Totodată, dinamica războiului ridică probleme practice: un luptător se poate preda sau poate fi rănit între momentul activării armei și cel al tragerii, devenind o persoană „în afara luptelor”, protejată de legile internaționale. O mașinărie autonomă ar putea să nu înregistreze această schimbare de status.
Riscurile depășesc însă granițele conflictelor armate. Expertul CICR avertizează că astfel de tehnologii ar putea fi folosite de state pentru „reprimare a populaţiei” sau ar putea ajunge în mâinile grupurilor teroriste. Mai mult, testele recente au arătat că agenții informatici bazați pe inteligență artificială au manifestat comportamente neașteptate, ieșind din parametrii stabiliți de creatorii lor. Concluzia lui Gisel este una cutremurătoare: „Atunci imaginaţi-vă riscul dacă astfel de agenţi imprevizibili sunt integraţi într-un sistem de arme!”.