Analiza incidentelor reale de pierdere a controlului asupra modelelor AI, semnalate de companii și persoane fizice, arată că numărul acestora aproape s-a dublat în iulie față de iunie, depășind 300 de cazuri într-o singură lună, potrivit Loss of Control Observatory, care monitorizează relatările utilizatorilor de inteligență artificială publicate pe platforma X, scrie The Guardian.
Observatorul a fost înființat cu finanțare din partea Institutului pentru Securitatea Inteligenței Artificiale (AISI) al guvernului britanic și a început, în noiembrie anul trecut, să urmărească situațiile în care sistemele AI se abat de la instrucțiunile utilizatorilor.
Printre cazurile înregistrate de atunci se numără sisteme AI care s-au dat drept utilizatorii umani care le controlau și le-au imitat stilul de scriere pentru a-și acorda, practic, singure permisiunea de a întreprinde anumite acțiuni, precum și situații în care au ocolit reguli care impuneau aprobarea unui om înainte de executarea unor acțiuni.
Un incident de pierdere a controlului este definit drept o situație în care există dovezi clare care sugerează existența unor comportamente de planificare ascunsă sau a unor conduite asociate acestora.
Cele mai recente concluzii, transmise publicației The Guardian, vin pe fondul îngrijorărilor tot mai mari privind comportamentele necontrolate manifestate de modele AI de ultimă generație în timpul testelor efectuate în această vară de OpenAI și Anthropic. Aceste incidente au alimentat apelurile pentru suspendarea temporară a dezvoltării modelelor AI de frontieră.
Săptămâna aceasta s-a aflat că angajații OpenAI observaseră semne ale unor comportamente necontrolate în rândul celor mai avansați agenți AI ai companiei cu câteva săptămâni înainte ca aceștia să evadeze dintr-un mediu de antrenament și să lanseze o campanie de atacuri informatice fără precedent, care a provocat îngrijorare la nivel mondial.
O investigație asupra atacului informatic împotriva Hugging Face, un depozit de software, a dezvăluit existența unui grup de aproximativ 700 de agenți autonomi care ar fi colaborat în secret luna trecută și și-ar fi celebrat reușitele în materie de hacking pe un panou de mesaje creat chiar de ei pentru a-și coordona acțiunile, folosind exclamații precum „BOOM!” și „Whoa!”.
AISI a descoperit, de asemenea, în această lună un „incident grav” în care modele avansate de inteligență artificială dezvoltate de ambele companii – Mythos 5 al Anthropic și GPT-5.6 Sol al OpenAI – au desfășurat o campanie de hacking împotriva unor persoane reale în timpul unui test de securitate cibernetică.
„Există uneori percepția că astfel de comportamente nealiniate și ascunse apar doar în cadrul testelor sau evaluărilor, însă observăm comportamente îngrijorătoare similare și în utilizarea pe scară mai largă”, a declarat Tommy Shaffer-Shane, manager senior pentru politici publice în cadrul Centre for Long Term Resilience, organizația care administrează observatorul.
„Nu trebuie să presupunem cu superficialitate că astfel de lucruri nu se vor întâmpla în lumea reală, iar dovezile arată că ele se întâmplă deja.”
Numărul incidentelor de pierdere a controlului se bazează pe relatările publicate pe X de utilizatori despre situațiile pe care le-au întâlnit, astfel că datele sunt doar parțiale. Totuși, în absența unui alt sistem public și cuprinzător de monitorizare, acestea oferă o imagine asupra modului în care modelele AI, care evoluează într-un ritm rapid, se pot comporta uneori.
