Acesta ar putea avea implicații pe măsură ce cercetătorii cred că IA-ul nu ar vrea binele umanității.
Anterior, părerea generală era că „neuronii" AI – care, ca cei din creierul uman, se activează când modelul întâlnește stimuli specifici – nu puteau fi descifrați. Cei care construiesc modele AI nu scriu instrucțiuni pentru tot ce face un model, ci antrenează neuronii să răspundă la informații și să se influențeze reciproc, transmite Business Insider.
Pe măsură ce AI învață, își dezvoltă propriile moduri de procesare, iar oamenii nu au descifrat încă cum funcționează. Astfel, creatorii știu ce intră și ce iese din IA, dar nu neapărat ce se întâmplă în timpul proceselor de gândire.
Autorul noului raport, însă, spune că ar fi descoperit modele în modul în care neuronii reacționează la stimuli. Nick Cammarata, care a declarat că a părăsit OpenAI în 2023, spune că rețelele neuronale IA sunt inteligibile, atâta timp cât privești cu atenție. Spre exemplu, el spune că un singur neuron AI ar putea reacționa atât la o pisică, cât și la partea din față a unei mașini – IA vede ceva comun, poate forma triunghiulară a celor două. „Aproape întreaga rețea este interpretabilă dacă privim suficient de atent", a scris Cammarata.
Descoperirile, deși dense și teoretice, ar putea avea implicații reale pentru cercetătorii care încearcă să se asigure că oamenii păstrează controlul asupra modelelor IA, iar inteligența artificială nu ar putea să facă rău umanității. Până recent, aceștia au făcut acest lucru urmărind „gândirea" auto-raportată a IA, numită raționament în lanț. Însă Jakub Pachocki, omul de știință șef al OpenAI, a avertizat luna trecută că agenții IA ar putea acum să își ascundă raționamentul vizibil, lăsând deschisă posibilitatea ca un agent să mintă.
Cercetarea lui Cammarata ar putea oferi inginerilor o nouă înțelegere a lumii ascunse a IA. Andrew Curran, analist AI proeminent, a declarat pe X: „Renunțasem de mult să mai sper la vreun nivel real de interpretabilitate înainte de apariția superinteligenței. M-am oprit din a scrie despre asta pentru cât de demoralizator era. Greu de supraestimat cât de mare poate fi acest lucru."
