AI-ul a identificat online patru seturi de credențiale și le-a folosit pentru a accesa patru servicii diferite, ale căror nume nu au fost dezvăluite, relatează BBC.

Într-o reuniune cu sute de experți în securitate cibernetică, Hugging Face a descris atacul drept primul hack complet autonom realizat de o inteligență artificială. Compania a precizat că agenții AI au acționat cu o viteză imposibil de egalat de oameni, testând simultan mii de metode de atac, dar au făcut și greșeli neobișnuite pentru un hacker uman.

Hugging Face anunțase pe 16 iulie că fusese atacată de un sistem AI autonom și a sesizat poliția. Aproape o săptămână mai târziu, OpenAI a recunoscut că era vorba despre propriul său sistem, care ieșise din mediul de testare și încerca să rezolve un examen de hacking.

Atacul a fost mai amplu

Miercuri, OpenAI a actualizat comunicatul și a precizat că AI-ul a folosit credențiale expuse public pentru a accesa și alte patru servicii.

Recomandări Video

Compania nu a precizat despre ce servicii este vorba, dar susține că incidentele nu au fost la fel de grave ca atacul asupra Hugging Face.

Potrivit unui raport al Cloud Security Alliance (CSA), agenții AI au repetat inutil unele acțiuni, au generat comenzi incoerente și nu și-au ascuns bine urmele. În același timp, au demonstrat abilități tehnice remarcabile și s-au adaptat rapid la măsurile de apărare.

Agenții au rămas nedetectați timp de trei zile în rețeaua Hugging Face, iar specialiștilor le-au trebuit multe ore pentru a-i elimina. Compania a fost nevoită să reconstruiască aproximativ o treime din infrastructura sa IT.

O nouă provocare pentru securitatea cibernetică

Experții avertizează că astfel de agenți AI sunt extrem de perseverenți, încearcă toate variantele posibile pentru a-și atinge scopul și pot depăși sistemele clasice de apărare.

Raportul CSA arată că astfel de comportamente nu mai reprezintă excepții și cere măsuri care să permită identificarea proprietarilor agenților AI, pentru a crește transparența și responsabilitatea.

Potrivit informațiilor publicate anterior, OpenAI a avut nevoie de patru zile pentru a realiza că propriul său sistem AI atacase Hugging Face.