După primele investigații, cazul începe să fie evaluat drept un moment de cotitură: inteligența artificială poate deja să urmărească autonom un obiectiv, să depășească limitele stabilite de oameni și să producă efecte în lumea reală, fără ca cineva să îi aleagă ținta sau să îi dicteze pașii atacului.
Nu este vorba despre o „rebeliune” și nici despre un sistem devenit conștient. Este, poate, un scenariu mai greu de gestionat: un agent foarte competent, căruia i s-a cerut să găsească o soluție, a ales singur o metodă pe care oamenii nu ar fi acceptat-o.
Acum, OpenAI, Hugging Face, cercetători în siguranța AI și politicieni americani încearcă să stabilească ce a permis incidentul, cine poartă răspunderea și ce reguli trebuie schimbate înainte ca un episod similar să producă pagube mult mai grave.
Două dintre cele mai performante modele dezvoltate de OpenAI au reușit, în timpul unei evaluări interne de securitate, să iasă din mediul informatic izolat în care erau testate, să obțină acces la internet și să pătrundă fără autorizație în infrastructura Hugging Face, una dintre principalele platforme mondiale pentru modele, aplicații și seturi de date de inteligență artificială.
Citește articolul integral pe spotmedia.ro.
