Dario Amodei, CEO-ul Anthropic, a cerut companiilor de inteligență artificială să încetinească în mod deliberat ritmul în care dezvoltă modele tot mai performante, avertizând că măsurile de siguranță trebuie să țină pasul cu noile capacități ale tehnologiei, potrivit CNBC, potrivit News.ro.
Amodei a prezentat sâmbătă un plan în trei etape despre care spune că ar putea reduce ritmul dezvoltării fără a sacrifica avantajul comercial al companiilor sau poziția Statelor Unite în cursa globală pentru AI. „Încetinirea nu înseamnă oprirea antrenării modelelor sau a progresului tehnic, ci să ne asigurăm că firmele au suficient timp pentru a-și alinia și proteja modelele”, a explicat el.
Prima etapă, pe care Anthropic s-a angajat deja să o aplice, presupune ca evaluatori independenți să primească un nivel de acces similar angajaților companiei pentru a verifica măsurile de siguranță și a raporta incidentele. A doua etapă presupune coordonarea principalelor companii AI din țările democratice pentru stabilirea unor standarde comune, iar a treia ar necesita acorduri între guvernele democratice și cele autoritare.
Amodei avertizează asupra riscurilor tot mai mari ale inteligenței artificiale
Apelul vine după demisia cercetătorului Anthropic Jacob Coxon, care a acuzat Anthropic și OpenAI că „se joacă cu viețile noastre” și a afirmat că unii dintre oamenii care dezvoltă AI cred că tehnologia ar putea provoca dispariția omenirii până la sfârșitul deceniului. Amodei susține că asemenea riscuri trebuie luate acum mult mai în serios decât în 2023, când modelele erau mult mai puțin capabile să acționeze în lumea reală.
Sam Altman și Elon Musk au susținut propunerea
Inițiativa a primit rapid sprijinul lui Sam Altman, CEO-ul OpenAI, care a declarat că încetinirea dezvoltării celor mai avansate capacități AI a devenit un subiect central al discuțiilor din companie. Altman a susținut și ideea evaluatorilor independenți cu acces extins și a anunțat că OpenAI va adopta o măsură similară.
Și Elon Musk a susținut public propunerea, afirmând simplu că „Dario are dreptate”. Amodei consideră că și numai un an sau doi câștigați înainte ca modelele AI să atingă niveluri critice de capacitate ar putea oferi cercetătorilor timpul necesar pentru a îmbunătăți alinierea și a reduce semnificativ riscul ca dezvoltarea tehnologiei să scape de sub control.
