Fost angajat Google: „Roboții ucigași ar putea declanșa un război fulgerător”
Un fost angajat Google, care a demisionat în urma unui proiect privind dronele militare, a avertizat că Inteligența Artificială ar putea porni accidental un război.
O nouă generație de arme autonome numite „roboți ucigași” ar putea porni, accidental, un război sau ar putea produce atrocități în masă a declarat fostul inginer Laura Nolan. Femeia a demisionat în 2018 în semn de protest pentru că a fost desemnată să lucreze la un proiect pentru armata SUA, scrie The Guardian.
Nolan a cerut ca toate mecanismele AI care nu sunt operate de oameni să fie interzise.
Spre deosebire de drone, care sunt operate de echipe de oameni, Nolan a declarat că roboții ucigași au potențialul de a „produce distrugeri pentru care nu au fost programați inițial”.
„Probabilitatea unui dezastru este proporțională cu câte dintre aceste mașini vor fi într-o anumită zonă simultan. Sunt posibile atrocități și ucideri ilegale chiar și în conformitate cu legile războiului, mai ales dacă sute sau mii de astfel de mașinării vor fi activate. S-ar putea produce accidente la scară largă, deoarece aceste sisteme vor începe să se comporte în moduri neașteptate. Altfel de arme trebuie interzise deoarece sunt imprevizibile și periculoase", a spus Laura Nolan.
Femeia a mai adăugat că a devenit „din ce în ce mai preocupată din punct de vedere etic” privind rolul său în programul Maven, care a fost conceput pentru a ajuta Departamentul Apărării al SUA.
În loc să folosească un număr mare de operatori militari pentru a analiza filmările unor potențiale ținte inamice, Nolan și alți ingineri au fost rugați să construiască un sistem prin care AI să poată diferenția oamenii și obiectele într-un ritm infinit mai rapid.
Proiectul a fost abandonat, după ce peste 3.000 dintre angajații Google au semnat o petiție pentru a protesta împotriva implicării companiei.
„În calitate de inginer de fiabilitate a site-ului, expertiza mea la Google a fost să mă asigur că sistemele și infrastructurile noastre sunt menținute în funcțiune. Deși nu am fost implicată direct în accelerarea recunoașterii înregistrărilor video, mi-am dat seama că, în cele din urmă, mai mulți oameni ar putea fi vizați și uciși de către armata americană în locuri precum Afganistan".
Abilitatea de a converti drone militare, de exemplu, în arme autonome „este doar o problemă de software în zilele noastre, una care poate fi rezolvată relativ ușor”, a avertizat Nolan.
Ea a spus că dorește ca guvernul irlandez să adopte o poziție mai clară privind interdicția acestor arme.
„Nu spun că ar trebui interzise sistemele ghidate de rachete sau sistemele de apărare anti-rachetă. Până la urmă sunt sub control uman complet și cineva este în cele din urmă responsabil. Cu toate acestea, astfel de arme autonome reprezintă o problemă de etică. Foarte puțini oameni vorbesc despre asta, dar dacă nu suntem atenți la una sau mai multe dintre aceste arme, acești roboți ucigași, ar putea începe accidental un război fulgerător, să distrugă o centrală nucleară și să provoace atrocități în masă.”
Etichete: general,
