BBC a discutat cu mai mulți angajați din industria tehnologiei care fie au demisionat recent din cadrul Google DeepMind, divizia de inteligență artificială a companiei Google, fie sunt în curs de a părăsi compania, din cauza îngrijorărilor legate de contractele militare ale acesteia.
Ce au mărturisit foștii angajați
Sofia Liguori, inginer de cercetare cu sediul la Londra, este una dintre aceste persoane. Ea și-a dat demisia din Google DeepMind în această săptămână și a vorbit în exclusivitate cu BBC despre preocupările sale, în ciuda faptului că o clauză din contractul său îi restricționează dreptul de a face acest lucru.
„Faptul că am realizat că firma mea promovează din ce în ce mai mult utilizarea sistemelor de inteligență artificială în operațiuni militare mă face să-mi fie rușine că lucrez la Google”, a declarat Liguori, precizând că își exprimă opinia în nume personal.
În replică, un purtător de cuvânt al Google a declarat pentru BBC: „Colaborăm cu organizații din sectorul public din întreaga lume și urmăm un proces consecvent de evaluare și încheiere a acestor contracte, inclusiv în ceea ce privește respectarea politicilor noastre privind utilizarea acceptabilă și a principiilor noastre în materie de inteligență artificială.”
„De asemenea, avem canale dedicate prin care angajații își pot semnala în siguranță orice preocupări, de la aspecte legate de etica în afaceri până la abateri profesionale, și dispunem de politici stricte la locul de muncă pentru a preveni orice formă de represalii.”
Google este una dintre mai multe companii de tehnologie care au semnat, la începutul acestui an, contracte cu armata SUA pentru implementarea inteligenței artificiale în medii militare clasificate, mai precizează BBC.
Secretarul american al Apărării, Pete Hegseth, a făcut din integrarea inteligenței artificiale în forțele armate o prioritate majoră, afirmând că administrația Trump va transforma armata într-o „forță de luptă care pune IA pe primul loc”.
Însă tehnologia IA evoluează rapid, iar criticii se întreabă dacă aceasta este suficient de fiabilă pentru a fi utilizată în război fără testări suplimentare, măsuri de protecție mai stricte și supraveghere umană.
După trei ani petrecuți în companie, Liguori a declarat că a decis să demisioneze din cauza implicării tot mai mari a Google în colaborările cu armatele Statelor Unite și Israelului.
„Nu sunt de acord cu această direcție, iar acest lucru m-a făcut să-mi pierd încrederea că firma mea respectă cu adevărat valorile etice pe care le declară”, a spus ea.
Potrivit Principiilor Google privind inteligența artificială, aceste valori includ dezvoltarea și implementarea IA cu „supraveghere umană” și alinierea tehnologiei la „dreptul internațional și drepturile omului”.
Nivelul de îngrijorare crește
Cu toate acestea, foști și actuali angajați ai companiei, precum și experți intervievați de BBC, au declarat că sunt îngrijorați de nivelul de supraveghere umană în momentele critice. Angajații din domeniul tehnologiei sunt deosebit de preocupați de acordurile militare privind IA semnate în acest an, deoarece acestea extind considerabil gama de utilizări pe care Pentagonul le poate da acestei tehnologii.
Andreas Kirsch, cercetător în domeniul inteligenței artificiale, a demisionat, la rândul său, din Google DeepMind la începutul acestei luni, din cauza preocupărilor sale.
Kirsch a declarat pentru BBC că, în opinia sa, „mecanismele de guvernanță și supraveghere ale Google nu sunt suficient de solide sau de relevante pentru a permite utilizarea sigură și responsabilă a IA în contexte militare și clasificate” și nici „pentru a dezvolta în siguranță o superinteligență artificială în viitor”.
„Google pare să nu aibă dreptul de a controla sau de a se opune modului în care Pentagonul folosește IA sa și, de asemenea, pare să aibă o vizibilitate limitată asupra modului în care aceasta este implementată”, a adăugat el.
În ultimii ani, armata SUA a implementat mai multe tehnologii bazate pe inteligență artificială pentru a-și spori capacitățile de luptă.
Cel mai cunoscut exemplu este Maven Smart Systems, principala platformă software a Pentagonului pentru organizarea informațiilor și a datelor de intelligence.
Dezvoltată de compania americană de apărare Palantir, platforma utilizează IA pentru a ajuta personalul militar să selecteze și să identifice țintele care urmează să fie atacate. Palantir a integrat în Maven tehnologii provenite de la mai multe companii de top din domeniul inteligenței artificiale, ceea ce a permis accelerarea semnificativă a anumitor procese.
Ce prevede contractul dintre Google și Pentagon
Contractul dintre Google și Pentagon, semnat la începutul acestui an, permite utilizarea tehnologiei IA a companiei în activități militare clasificate.
Acordul prevede că modelele de inteligență artificială ale Google pot fi utilizate „în orice scop guvernamental legal” și „nu ar trebui folosite pentru supravegherea în masă a populației pe teritoriul SUA sau pentru arme autonome (inclusiv pentru selectarea țintelor), fără o supraveghere și un control uman adecvate”.
Contracte similare au fost semnate de OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia și compania startup Reflection. Aceste acorduri permit implementarea tehnologiei IA într-o varietate de contexte militare, precum transportul, planificarea și operațiunile de pe câmpul de luptă.
Pe măsură ce tehnologia evoluează rapid, cresc și îngrijorările privind utilizarea inteligenței artificiale în teatrele de război.
„IA comprimă timpul de care dispune un operator pentru a lua o decizie, deoarece funcționează mult mai repede decât un om, iar acest lucru este deosebit de riscant într-un mediu cu un nivel ridicat de stres”, a declarat Sarah Shoker, fostă șefă a echipei pentru geopolitică din cadrul OpenAI.
Angajații Google au declarat pentru BBC că se tem să vorbească deschis despre siguranța inteligenței artificiale și despre utilizarea acesteia în război, deoarece contractele lor de muncă le interzic să critice public compania.
Un angajat al Google DeepMind, care lucrează în prezent în companie și a dorit să rămână anonim de teama unor eventuale represalii, a declarat pentru BBC că „mulți angajați motivați, care s-au alăturat companiei crezând în misiunea sa inițială, ar putea pleca. Totuși, există și un flux constant de oameni aflați la începutul carierei, care ar putea ocupa aceste posturi. S-ar putea produce o schimbare de generație”.
Un alt angajat al Google DeepMind, care a solicitat, de asemenea, anonimatul, a declarat pentru BBC: „Mulți oameni au părăsit compania pentru că sunt profund nemulțumiți de această situație și de modul în care Google DeepMind și-a schimbat poziția în privința eticii”.
„Unii încearcă să lupte împotriva acestei direcții, în timp ce alții se gândesc: «Este o companie mare. La ce schimbări te poți aștepta?»”, a spus angajatul.
Acordurile Google cu Israelul au provocat, de asemenea, controverse.
Colaborare cu armata israeliană
În 2024, compania a fost criticată de propriii angajați pentru un contract comun cu Amazon, în valoare de 1,2 miliarde de dolari (960 de milioane de lire sterline), cunoscut sub numele de Proiectul Nimbus. Acesta pune la dispoziția guvernului și armatei israeliene tehnologie de inteligență artificială și infrastructură de cloud computing.
La momentul respectiv, Google a declarat că Proiectul Nimbus „nu este destinat unor activități extrem de sensibile, clasificate sau militare, care au legătură cu sistemele de armament ori cu serviciile de informații”.
În plus, capacitățile Israelului de a utiliza inteligența artificială în război au devenit subiect de dezbatere după ce au fost prezentate în documentarul recent Naza, care analizează rolul sistemelor de identificare a țintelor bazate pe IA în bombardarea Fâșiei Gaza, operațiuni soldate cu un număr ridicat de victime civile.
Un ministru din guvernul israelian a afirmat că acuzațiile prezentate în film sunt false și denaturate. Fostul angajat Google Andreas Kirsch consideră că tehnologia inteligenței artificiale nu este încă pregătită pentru utilizarea pe câmpul de luptă.
