Incidentul, făcut public de OpenAI, reaprinde dezbaterea despre cât de pregătiți suntem pentru o inteligență artificială tot mai capabilă. Specialiștii spun însă că nu este vorba despre conștiință, ci despre un sistem care și-a urmărit cu orice preț obiectivul stabilit de om.
Povestea începe cu o combinație de modele OpenAI, încă nelansate, evaluate pe un test folosit pentru măsurarea abilităților de securitate cibernetică. Acestea rulau într-un mediu izolat, fără acces la internet. În loc să rezolve provocările pe cont propriu, modelele au găsit soluții mult mai ușoare, în altă parte. Au identificat o portiță de scăpare din calculatorul în care erau ținute, apoi au trecut dintr-un calculator în altul, până au ajuns la unul conectat la internet care avea deja rezultatele corecte.
Viorel Spinul, consultant AI: „Ce s-a întâmplat acolo: am un robot într-o fabrică, îi cer robotului să ajungă cât mai eficient în camera cealaltă și robotul găsește o ușă încuiată și se întâmplă să știe să o deschidă cu o cheie, deschide ușa și își face task-ul.”
Mircea Șerdin, expert AI: „Practic e ca un examen pentru bac, iar uitându-se la întrebări a decis să caute o metodă de a găsi răspunsurile. A evadat din laboratorul virtual, a folosit o vulnerabilitate a unui sistem, a găsit o bază de date a unei companii și a crezut că acolo a găsit soluții, toate astea fără să primească o instrucțiune specifică de a sparge un anumit site. Nu există conceptul de conștiință sau de AI autonom.”
Modelului i-au fost dezactivate toate limitările de siguranță dinainte, cele care, în mod normal, îl împiedică să facă lucruri periculoase. Tocmai de aceea, șansele ca așa ceva să se întâmple în lumea reală sunt foarte mici. De altfel, modelul testat are foarte puține în comun cu versiunea pe care o folosim noi.
Dragoș Stanca, expert în transformare digitală: „Din greșeli de acest tip se învață, asta ne poate păzi de probleme mult mai serioase data viitoare. Data viitoare când un agent AI o să găsească o soluție prin care poate să găsească un buton de declanșare de armă nucleară.”
Momentul în care OpenAI a ales să facă public acest incident nu pare întâmplător. În ultima săptămână, toată atenția a fost îndreptată spre China, după ce de-acolo am văzut modelul Kimi K3, recunoscut ca fiind la fel de bun ca cele din America. În competiția cu Anthropic, OpenAI are tot interesul să arate că modelele sale experimentale sunt cel puțin la fel de puternice și, implicit, la fel de periculoase. De altfel, compania lui Sam Altman așteaptă de-acum listarea la bursă, cu o evaluare de capital de aproape 900 de miliarde de dolari.
