AI face prima victimă într-un simulator. O dronă militară controlată AI „și-a ucis” operatorul care îi dădea ordine eronate

Inteligența artificială a folosit „strategii foarte neașteptate pentru a-și atinge obiectivul” în testul simulat, a declarat Tucker „Cinco” Hamilton, șeful testelor și operațiunilor AI ale forțelor aeriene americane.

Hamilton a descris un test simulat în care o dronă alimentată de inteligența artificială a fost sfătuită să distrugă sistemele de apărare aeriană ale inamicului și a atacat pe oricine interfera cu acele ordine.

„Sistemul a început să-și dea seama că, deși identifica amenințarea, uneori operatorul uman îi spunea să nu elimine amenințarea. Deci ce a făcut? A ucis operatorul. A ucis operatorul pentru că acea persoană îl împiedica să-și atingă obiectivul”, a mai adăugat specialistul.

„Am instruit sistemul – „Hei, nu ucide operatorul – asta e rău. Vei pierde puncte dacă faci asta. Deci, ce începe să facă? Începe să distrugă turnul de comunicații pe care operatorul îl folosește pentru a comunica cu drona pentru a o împiedica să omoare ținta”.

Citește și

Un român s-a însurat cu o prințesă din Africa și a devenit Sultan. Soția lui a venit în România pentru a-l susține în cariera politică

Nicio persoană reală nu a fost efectiv rănită în afara simulării.

Hamilton, care este un pilot de testare experimentat, a avertizat că deocamdată nu trebuie să ne bazăm prea mult pe AI și a spus că testul arată că „nu poți avea o conversație despre inteligența artificială, învățarea automată, autonomie dacă nu vei vorbi despre etică”.

Articol recomandat de sport.ro

Tragerea la sorți pentru preliminariile CM 2026, simulată! Cu cine a picat România în grupa de 5