AI face prima victimă într-un simulator. O dronă militară controlată AI „și-a ucis” operatorul care îi dădea ordine eronate
Într-un test simulat organizat de armata SUA , o dronă a forței aeriene controlată de AI „și-a ucis” operatorul pentru a-l împiedica să interfereze cu eforturile sale de a-și îndeplini misiunea, a declarat un oficial luna trecută, scrie The Guardian.
Inteligența artificială a folosit „strategii foarte neașteptate pentru a-și atinge obiectivul” în testul simulat, a declarat Tucker „Cinco” Hamilton, șeful testelor și operațiunilor AI ale forțelor aeriene americane.
Hamilton a descris un test simulat în care o dronă alimentată de inteligența artificială a fost sfătuită să distrugă sistemele de apărare aeriană ale inamicului și a atacat pe oricine interfera cu acele ordine.
„Sistemul a început să-și dea seama că, deși identifica amenințarea, uneori operatorul uman îi spunea să nu elimine amenințarea. Deci ce a făcut? A ucis operatorul. A ucis operatorul pentru că acea persoană îl împiedica să-și atingă obiectivul”, a mai adăugat specialistul.
„Am instruit sistemul – „Hei, nu ucide operatorul – asta e rău. Vei pierde puncte dacă faci asta. Deci, ce începe să facă? Începe să distrugă turnul de comunicații pe care operatorul îl folosește pentru a comunica cu drona pentru a o împiedica să omoare ținta”.
Nicio persoană reală nu a fost efectiv rănită în afara simulării.
Hamilton, care este un pilot de testare experimentat, a avertizat că deocamdată nu trebuie să ne bazăm prea mult pe AI și a spus că testul arată că „nu poți avea o conversație despre inteligența artificială, învățarea automată, autonomie dacă nu vei vorbi despre etică”.
